(AI 생성 이미지)
9일 구글위협인텔리전스그룹(GTIG)은 올해 2분기 최신 AI 위협 동향을 분석한 ‘AI 위협 추적 보고서(AI Threat Tracker)’를 통해 위협 행위자들이 공격 라이프사이클 전반에서 작전을 고도화하기 위해 AI를 적극 악용하고 있다고 밝혔다. GTIG는 공격자의 에이전틱 AI 활용이 더 이상 실험실 수준에 머물지 않으며, 인간의 개입과 판단에 따른 지연 시간이 줄어들어 방어자의 대응 골든 타임이 크게 단축되고 있다고 분석했다.
보고서에 따르면 위협 행위자가 클라우드 리소스를 침해한 지 불과 6시간 만에 에이전틱 AI를 활용해 대규모 자격 증명 탈취 공격을 기획·실행한 사례가 포착됐다. AI 기반 자동화를 적용함에 따라 해커들은 수천 개의 자격 증명을 순식간에 수집하는 등 대규모 공격을 소수 인원만으로 신속하게 수행하고 있다.
소프트웨어 및 AI 공급망을 직접 겨냥한 공격도 늘었다. ‘TeamPCP’로 알려진 위협 조직 ‘UNC6780’은 AI 코딩 어시스턴트가 사용하는 도구에 백도어를 심고 오픈소스 패키지의 메타데이터를 오염시켰다. 이들은 AI 코딩 어시스턴트가 개발자에게 악성 부품을 추천하도록 유도하는 한편, 보안 검사를 우회하기 위해 LLM 보안 스캐너를 속이는 악성 프롬프트를 배포하는 등 정교한 수법을 사용했다.
국가 배후 사이버 스파이 조직들의 AI 악용도 공격 라이프사이클 전반으로 확대되는 양상이다. 중국 연계 사이버 스파이 그룹 ‘BASIN CASTLE’은 표적 정찰과 유인 콘텐츠 작성부터 침투 후 발생하는 기술적 오류 해결까지 과업 전반에 LLM을 활용했다. 또 다른 중국 연계 조직은 초기 침투 과정을 에이전트 방식으로 수행하는 자동화 모의 침투 프레임워크를 구축하고자 제미나이 활용을 시도하기도 했다.
AI 기술 자산 자체를 노리는 표적 공격도 고조되고 있다. 공격자들은 의료, 정부, 미디어 등 다양한 산업군의 독자적인 AI 모델, 소스 코드, 프롬프트, 연구 자료를 탈취한 뒤, 금전을 지불하지 않으면 이를 외부에 공개하겠다고 협박하는 데이터 갈취 작전을 펼치고 있다.
아울러 고성능 AI 인프라를 무단 점유하거나 상용 서비스의 모니터링을 회피하려는 시도도 빈번해졌다. 위협 행위자들은 암시장에서 탈취된 AI 계정을 구매하거나 타인의 클라우드 환경을 장악해 고성능 GPU 인스턴스를 무단 할당받아 사용하고, 관련 비용을 피해 기업에 전가하는 ‘LLMJacking’ 행위를 저질렀다. 중국 연계 조직 UNC6508은 미국 의료 시설의 클라우드를 침해한 후 로컬 AI 모델을 직접 호스팅해 상용 보안 모니터링을 회피했고, 북한 IT 인력 조직은 탈취한 계정으로 LLM API를 대량 등록해 활동 규모를 확장한 정황이 확인됐다.
존 헐트퀴스트 GTIG 수석 애널리스트는 “이제 모든 위협 행위자가 AI를 활용해 실제 공격 효과를 극대화하고 있다”며 “특히 AI가 자율적으로 판단하고 행동하는 에이전트 방식으로 전환되면서 우리의 대응 속도를 넘어서는 거대하고 빠른 위협에 직면하게 될 것”이라고 경고했다. 이어 “AI가 기술 스택에 점점 더 깊이 통합됨에 따라 AI 시스템 및 공급망 자체를 공격 대상으로 삼는 차세대 위협도 더욱 확대될 것”이라고 전망했다.
