(사진=AFP)
8일(현지시간) CNN비즈니스, 테크크런치 등에 따르면 구글은 이날 공식 블로그를 통해 AI를 이용해 스팸·사기(피싱) 공격에 대응하는 새로운 실시간 탐지 기능을 선보이며 “구글검색, 크롬 브라우저, 안드로이드 등 주요 플랫폼에서 온라인 보안 기능을 대폭 강화했다. 사용자를 안전하게 보호하기 위해 AI를 활용하는 새로운 방법”이라고 소개했다.
크롬 브라우저의 ‘강화된 보호 모드’에 데스크톱 온디바이스 대규모 언어 모델(LLM)인 ‘제미나이 나노’를 탑재해 보안 기능을 강화했다. 인터넷 이용시 흔히 경험하는 ‘기기에 바이러스가 있다. 기술 지원을 요청하거나 보안 소프트웨어를 다운로드하라’는 가짜 보안 알림 및 원격 지원 유도 권유를 실시간으로 탐지해 웹사이트에 접속하기 전 사용자에게 경고창을 띄우는 방식이다.
안드로이드 모바일 크롬 브라우저에서도 악성, 스팸 또는 오해의 소지가 있는 알림을 사전 차단할 수 있도록 새로운 AI 기반 경고 기능을 출시했다. 의심스러운 사이트로부터의 알림을 AI가 미리 판별한 뒤 사용자에게 자동으로 수신 차단 또는 구독 해지를 안내하는 방식이다. 모든 데이터 처리는 스마트폰 내에서만 이뤄지며, 개인정보는 외부로 전송되지 않는다.
구글검색에서도 AI 기반 탐지 기능이 강화됐다. 구글에 따르면 3년 전 AI 시스템 도입 이후 매일 수억건의 사기성 검색 결과가 차단되고 있다. 항공사 고객센터를 사칭한 가짜 페이지를 탐지해 사용자의 접속을 막아 해당 분야 검색 사기 발생률을 80% 줄였다.
이외에도 ‘픽셀 9’ 이상 구글 스마트폰 앱에서는 제미나이 나노가 AI 통화 내용을 실시간 분석해 전화 사기를 방지한다. 예를 들어 ‘배송 완료를 위해 기프트카드 결제 요구’ 등 사기 의심 발언이 나오면 즉시 경고 메시지와 진동, 음성 안내로 사용자에게 알린다. 이 기능 역시 통화 음성은 기기 내에서만 일시적으로 처리되고 저장·외부 전송되지 않는다.
새 기능은 미국·영국·캐나다 등 영어권 국가에서 우선 제공된다. 지난해 생성형 AI를 이용한 피싱·사기 피해는 전 세계적으로 1조달러를 넘어섰다. 이에 기존 스팸 필터만으로는 대화형·지능형 사기 수법을 막기 어렵다는 지적이 잇따르고 있다.
구글은 “기존 크롤러 탐지 방식으로는 ‘클로킹’ 수법에 대한 대응이 취약했으나, 기기 내에서 직접 작동하는 제미나이 나노 AI가 실시간 탐지를 가능토록 했다”며 “기존 ‘표준 보호 모드’보다 피싱 등 온라인 위협에 두 배의 보호 수준을 제공하며 새롭게 등장하는 사기 유형에도 대응이 가능하다. 모든 사기 탐지 기능은 사용자의 프라이버시 보호를 최우선으로 설계됐다”고 강조했다.
한편 AI를 활용한 사기 방지에 나선 곳은 구글뿐이 아니다. 영국 이동통신사 O2는 지난해 사기성 전화통화를 지연시키기 위한 대화형 챗봇 ‘데이지’를 도입했고, 마이크로소프트(MS)는 AI를 통해 통화 사기 여부를 분석해 경고하는 기술을 시범 운영하고 있다. 미국 재무부는 AI 기반 감지로 2024회계연도에 10억달러 규모의 수표 사기를 적발했다.