구글이 기업의 인공지능(AI)을 납치해 악용하는 수법이 확인됐다며 경고에 나섰다. 해당 수법을 통해 하루 만에 10만 달러(약 1억 3000만 원)의 부정 사용 요금이 발생한 사례도 확인됐다.

구글의 사이버보안 자회사 맨디언트와 구글 위협 인텔리전스 그룹(GTIG)은 3일(현지시간) '거대언어모델(LLM) 재킹의 부상: 공격자들이 탈취한 클라우드 및 모델 자원을 수익화하는 방법'이라는 제목의 보고서를 발표했다.

'LLM재킹'은 기업의 AI 모델 접근 권한을 탈취해 악의적인 활동을 수행하거나, 이를 다른 해커들에게 재판매하는 수법이다. 특히 LLM재킹은 단기간에 막대한 사용 비용을 발생시킨다. 보고서는 최근 조사 결과, 하루 만에 10만 달러 이상의 부정 사용 요금이 발생한 사례가 확인됐으며, 일부 기업에서는 누적 피해액이 100만 달러(약 13억 4000만 원)에 달하기도 했다.

보고서는 최근 발생한 LLM재킹은 북미, 남미, 아시아 태평양 지역에 위치한 금융 서비스, 리테일, 기술, 운송 기업 등 다양한 산업군을 겨냥했다고 밝혔다.

공격자는 자격 증명 탈취와 로그인 상태의 세션을 무단으로 가로채 시스템에 접속하는 방법 등으로 침투한 것으로 조사됐다. 글로벌 오픈소스 커뮤니티 '깃허브'에 노출된 유효한 자격 증명을 수집하기도 했다.

공격자는 모델에 대한 무단 접근 권한을 사이버 범죄 암시장에서 대폭 할인된 가격에 되팔아 수익을 내는 것으로 나타났다.

보고서는 이 같은 공격에 대응하기 위해 △전략적 위협 탐지를 위한 헌팅 △조직 내 비인가 LLM 현황 파악 △API 키 권한 세분화 △자동화된 시크릿 스캐닝 등의 방안을 제시했다.

존 헐트퀴스트 GTIG 수석 애널리스트는 "공격자들은 LLM 재킹을 적극 활용해 방어자보다 규모 측면에서 우위를 점하려 한다"며 "이들은 에이전틱 도구를 활용해 피해자가 인지하지 못하는 사이 토큰을 탈취하는 방식으로 공격 규모를 확대한다. 기업은 LLM 자원에 대한 접근을 엄격히 통제해야만 비용 폭탄을 방지할 수 있을 뿐 아니라, 공격자들이 저렴한 비용으로 퍼붓는 자율형 공격으로부터 커뮤니티 전반을 보호할 수 있을 것"이라고 밝혔다.

이어 "기업이 빠르게 도입 중인 AI 모델과 컴퓨팅 자원을 면밀히 모니터링하고 보호하지 않으면 제3자가 자원을 무단으로 악용할 수 있다"며 "자원 사용 내역을 철저히 점검하고, 다중 인증(MFA)을 활성화하는 등 계정 정보를 신중하게 관리해야 한다"고 강조했다.

Ktiger@news1.kr