(AI 생성 이미지)
4일 구글 맨디언트와 구글 위협 인텔리전스 그룹(GTIG)에 따르면 이처럼 기업의 AI 모델 접근 권한을 탈취해 무단으로 사용하거나 제3자에게 되파는 ‘LLM재킹(LLMJacking)’ 공격이 세계 곳곳에서 확산하고 있다. 구글은 보고서를 통해 올해 북미와 남미, 아시아태평양 지역의 금융·유통·기술·운송 기업들이 공격을 받았다고 밝혔다. 일부 기업에서는 하루 만에 10만달러가 넘는 부정 사용 요금이 발생했고, 침입을 차단하기 전까지 누적 비용이 100만달러에 달한 사례도 확인됐다.
◇월 60달러에 최신 AI 무제한…요금은 피해 기업 몫
LLM재킹은 AI 시대에 등장한 새로운 유형의 자원 탈취 범죄다. 과거 해커들이 다른 사람의 컴퓨터를 몰래 이용해 암호화폐를 채굴하는 ‘크립토재킹’에 집중했다면, 이제는 기업이 비용을 지불하는 고성능 AI 모델을 무단으로 이용하는 방식으로 수익을 올리고 있다.
공격의 출발점은 AI 서비스를 이용할 때 필요한 일종의 디지털 열쇠인 API 키다. 기업은 외부 AI 모델을 자사 서비스에 연결하기 위해 API 키를 발급받는다. 해커가 이 키를 확보하면 기업의 정상적인 이용자인 것처럼 AI 모델을 호출할 수 있다. 이용량에 따라 요금이 부과되는 구조를 악용하는 것이다.
해커들은 공개된 소프트웨어 개발 플랫폼 깃허브에서 실수로 노출된 API 키를 수집하거나 기업 계정의 인증 정보를 탈취했다. 정상적인 로그인 세션을 가로채 비밀번호와 다중 인증(MFA)을 우회하는 수법도 동원했다.
특히 주목할 부분은 훔친 AI 접속 권한을 돈으로 바꾸는 방식이다. 해커들은 여러 기업에서 탈취한 API 키를 하나로 모아 불법 중계 서버를 구축했다. 이른바 ‘LLM 믹서(LLM Mixer)’다.
이 중 ‘제트 나이트(Jet Night)’라는 서비스는 월 60달러만 내면 고성능 AI 모델을 사실상 무제한으로 이용할 수 있다고 광고했다. 정상적인 유사 서비스 이용료가 월 100~250달러 수준인 점을 고려하면 파격적인 가격이다.
하지만 저렴한 요금에는 이유가 있었다. 이용자들이 AI를 사용할 때 발생하는 비용을 서비스 운영자가 아니라 API 키를 탈취당한 기업이 부담하는 구조였기 때문이다.
GTIG 조사 결과 제트 나이트에 연결된 한 공격자는 8시간도 안 되는 시간에 50만건 이상의 LLM API 호출을 실행했다. 이 서비스와 관련해 피해 기업에 전가된 AI 모델 사용 비용은 약 100만달러에 달했다.
구글은 제트 나이트가 정상적인 가격보다 훨씬 저렴하게 서비스를 제공할 수 있는 배경에 탈취한 API 키가 있다고 판단했다. 실제 이 서비스는 텔레그램 채널을 통해 여러 차례 서비스 장애를 공지했는데, 구글은 피해 기업들이 침입 사실을 발견하고 API 키를 차단한 영향일 가능성이 있다고 분석했다.
◇사용량 제한도 무력화…해커 조직 간 분업까지
공격 수법도 갈수록 정교해지고 있다. 일부 해커는 훔친 API 키가 실제로 작동하는지 확인하기 위해 극히 적은 양의 토큰만 사용하는 요청을 반복했다. 대규모 사용량 이상 징후를 감시하는 보안 시스템에 걸리지 않으면서 유효한 계정만 골라내기 위해서다.
본격적으로 공격을 시작한 뒤에는 이용 한도를 우회하는 기술까지 동원했다. 한 공격자는 서비스 계정을 짧은 시간 동안 만들었다가 삭제하는 과정을 반복하는 ‘소각 및 교체(Burn and Rotate)’ 전략을 사용했다. 동시에 클라우드 업체의 요금 청구 화면을 수시로 확인하며 사용 비용이 얼마나 발생하는지도 살폈다.
더 나아가 기업의 클라우드 환경을 장악한 뒤 고성능 GPU를 사용하는 컴퓨팅 자원을 추가로 확보하거나 자체 AI 중계 서비스를 설치한 사례도 확인됐다. 피해 기업의 자원을 단순히 이용하는 수준을 넘어 불법 AI 서비스 운영에 필요한 인프라까지 구축한 것이다.
해커들 사이에서 역할 분담도 나타나고 있다. 기업 시스템에 침입해 접속 권한을 확보하는 조직과 훔친 권한을 이용해 불법 AI 서비스를 운영·판매하는 조직이 따로 활동하는 방식이다. 구글은 실제 조사에서 서로 다른 두 공격 조직이 기업의 AI 인프라 침해와 수익화를 나눠 수행한 정황을 확인했다.
이 같은 범죄가 더욱 위협적인 이유는 피해 기업이 공격 사실을 알아차리기 어렵다는 데 있다. 고객 정보나 내부 자료를 훔치는 기존 해킹과 달리 기업의 AI 이용 권한 자체가 범죄 수단이 된다. 특히 공격 당시 AI 서비스를 사용하지 않던 기업에서도 해커가 해당 기능을 활성화해 막대한 요금을 발생시킨 사례가 있었다.
구글은 앞으로 해커들이 기존 암호화폐 채굴용 자원 탈취보다 LLM재킹을 선호할 가능성이 높다고 전망했다. 고성능 AI 모델과 자율형 AI 에이전트의 기업 도입이 늘어날수록 탈취한 자원의 경제적 가치도 커지기 때문이다.
이에 따라 기업들이 API 키와 클라우드 계정의 접근 권한을 최소화하고, 사용량 상한 및 예산 경고 기능을 설정해야 한다고 권고했다. 개발 과정에서 외부에 노출된 인증 정보를 자동 탐지하고 승인되지 않은 AI 모델의 사용 여부도 점검할 필요가 있다고 강조했다.
존 헐트퀴스트 GTIG 수석 애널리스트는 “공격자들은 LLM재킹을 적극 활용해 방어자보다 규모 측면에서 우위를 점하려 한다”며 “에이전틱 도구를 활용해 피해자가 인지하지 못하는 사이 토큰을 탈취하는 방식으로 공격 규모를 확대하고 있다”고 분석했다.
이어 “기업은 LLM 자원에 대한 접근을 엄격히 통제해야 비용 폭탄을 방지할 수 있을 뿐 아니라 공격자들이 저렴한 비용으로 퍼붓는 자율형 공격으로부터 커뮤니티 전반을 보호할 수 있다”고 강조했다.
