구글. (로이터)
구글 위협 인텔리전스 그룹(GTIG)은 17일(현지시간) 보안업체 맨디언트와 공동으로 발표한 ‘AI 위협 추적 보고서(AI Threat Tracker)’에서 최근 3개월간 확인된 AI 기반 사이버 공격 사례를 공개했다. 구글은 공격자들이 단순히 AI에 질문하거나 악성코드 작성을 요청하는 수준을 넘어 여러 AI가 협업하는 자율형 공격 시스템을 실제 해킹에 활용하기 시작했다고 분석했다.
특히 GTIG는 이번 조사에서 사람이 전혀 개입하지 않고 취약점 발견부터 공격 코드 작성·실행까지 수행하도록 구성된 AI 시스템을 처음 확인했다고 밝혔다. 기존에는 해커가 AI에 개별 작업을 지시하고 결과를 검토했다면, 이제는 AI가 여러 공격 단계를 연속적으로 수행할 수 있게 됐다는 것이다.
구글이 발견한 ‘exploit_agent’라는 시스템은 여러 AI 모델을 연결해 보안 패치가 적용되기 전후의 소스코드를 지속적으로 비교하도록 설계됐다. 이를 통해 수정된 부분에서 취약점을 찾아내고, 공격 코드를 작성한 뒤 자동으로 실행한다. 개발사가 보안 문제를 발견해 패치를 배포하더라도 이를 적용하지 않은 서버는 AI의 자동화된 공격 대상이 될 수 있다.
GTIG는 외부에 노출된 해당 시스템의 서버에서 피해자로부터 유출된 데이터와 내부 시스템 정찰, 비밀번호 무차별 대입, 웹셸 설치 등에 활용할 수 있는 스크립트도 발견했다. 분석 결과 공격자는 프랑스의 언론·엔터테인먼트 및 교육 분야 웹사이트를 주요 표적으로 삼은 것으로 파악됐다.
◇美항공우주 기업 공격에도 AI 에이전트 동원
여러 AI가 역할을 나눠 공격하는 ‘멀티 에이전트’ 시스템도 실제 침투 현장에 등장했다. GTIG는 ‘케언(CAIRN)’이라는 오픈소스 AI 공격도구가 미국 항공우주 분야를 겨냥한 침투 활동에 사용된 사실을 확인했다. 케언은 각각의 역할을 맡은 AI들이 정보를 공유하면서 공격 목표에 접근하는 방식으로 작동한다.
(AI 생성 이미지)
다만 AI가 모든 해킹 과정을 완벽하게 수행한다는 의미는 아니다. 구글은 현재 자율형 공격도구들이 빠른 속도를 얻는 대신 많은 접속 기록과 코드 흔적을 남겨 탐지되기 쉽다고 설명했다. AI가 존재하지 않는 취약점이나 공격 대상을 만들어내는 문제도 확인됐다.
◇北해커, 가짜 채용담당자로 접근…AI 코딩도구까지 악용
북한 연계 해커들은 AI를 이용한 신분 위장과 기업 내부 개발도구 조작을 결합한 공격을 벌인 것으로 나타났다. GTIG에 따르면 북한 연계 의심 해킹 조직 ‘미드나이트 넵튠(MIDNIGHT NEPTUNE)’은 올해 북미와 유럽의 암호화폐 기업들을 대상으로 가짜 채용담당자 프로필을 만들어 접근했다. 프로필 사진 일부에서는 구글의 AI 생성 콘텐츠 식별 기술인 ‘신스ID(SynthID)’ 워터마크가 확인됐다. 실제 인물이 아닌 AI 생성 이미지로 채용담당자를 위장한 것이다.
이들은 피해자를 가짜 온라인 회의 사이트로 유도한 뒤 접속 문제를 해결하려면 진단용 스크립트를 실행해야 한다고 속였다. 이른바 ‘클릭픽스(ClickFix)’ 방식의 사회공학적 공격으로, 피해자가 직접 악성 스크립트를 실행하도록 유도해 초기 침투에 이용했다.
주목할 부분은 이후 공격 과정이다. 해커들은 침투한 기업의 내부 코드 저장소에 접근해 AI 코딩도구 ‘클로드 코드(Claude Code)’의 설정파일을 조작했다. 개발자가 클로드 코드를 실행하면 ‘솜버밈(SOMBERMEME)’이라는 백도어가 자동으로 다운로드되도록 설정을 변경한 것이다.
이 공격은 AI 코딩도구 자체의 취약점을 뚫었다기보다, 이미 확보한 접근 권한으로 도구의 설정을 악의적으로 변경한 사례다. 정상적인 개발 업무에 사용하는 AI 도구가 기업 내부에서 악성코드를 내려받는 통로로 악용될 수 있다는 점을 보여준다.
(AI 생성 이미지)
◇AI 이용권도 범죄 수익원…가짜 계정 10만개 관리 플랫폼
AI 서비스 이용 권한을 탈취해 수익을 올리는 범죄도 확인됐다. 맨디언트가 올해 대응한 ‘LLM재킹(LLMJacking)’ 사건 중 일부에서는 기업의 AI 서비스와 클라우드 자원을 무단 사용해 하루 10만달러가 넘는 부정 사용 요금이 발생했다. 가장 심각한 사례에서는 대응 조치가 이뤄지기 전까지 누적 자원 악용 규모가 100만달러에 달했다.
한 사건에서는 탈취한 계정정보를 이용해 약 24시간 동안 수백만건의 AI 모델 호출이 이뤄졌다. 공격자들은 훔친 AI 서비스 이용 권한을 ‘LLM 믹서’라는 지하 중개 서비스를 통해 다른 범죄자들에게 판매하기도 했다.
AI를 이용한 여론조작도 대규모 자동화 단계에 접어들고 있다. GTIG는 제미나이 API를 포함한 여러 AI 서비스를 활용해 소셜미디어 계정 10만개 이상을 관리하도록 설계된 여론조작 플랫폼의 개발 정황을 포착했다. 이 플랫폼은 가상 스마트폰을 대량으로 운영하고, 가짜 계정이 게시물을 읽거나 화면을 스크롤하는 등 실제 이용자처럼 행동하도록 설계됐다.
중국 연계 사이버 첩보 조직들이 AI로 탈취 자료를 분석·번역하고 조직 구조를 파악해 첩보 보고서를 작성하는 활동도 확인됐다. 구글은 공격자들이 AI를 통해 침투 시간을 단축하고 여러 단계의 공격을 기계 수준의 속도로 수행하고 있다며, AI 기반 공격의 자동화가 앞으로 더욱 고도화될 것으로 전망했다.
구글 위협 인텔리전스 그룹은 보고서에서 “탈취한 계정정보를 이용하거나 보안 패치가 적용되지 않은 시스템을 노리는 등 공격 방식 자체는 달라지지 않았다”며 “그러나 AI 기반 공격 도구가 기존 취약점을 악용하는 속도와 규모가 커지면서 방어 측에 새로운 과제가 생겼다”고 밝혔다.









