중국과 북한, 러시아 등 국가 배후 해킹 조직이 생성형 인공지능(AI)을 사이버 공격에 도입해 공격 효율성을 극대화하고 있다는 분석이 나왔다.

구글 위협 인텔리전스 그룹(GTIC)은 12일(현지시간) 보고서를 통해 국가 배후 사이버 공격 세력이 거대 언어 모델(LLM)로 소프트웨어 취약점을 찾아냈다고 밝혔다.

보고서에 따르면 GTIC는 AI를 활용해 개발한 것으로 추정되는 제로데이 취약점 공격 코드를 발견했다. 제로데이 취약점은 개발자가 인지하지 못했거나, 아직 관련 보안 패치가 배포되지 않은 소프트웨어 보안 허점을 가리킨다.

GTIC는 "이는 AI를 사용해 제로데이 개발에 성공한 최초 사례"라며 "해당 제로데이 취약점을 개발사에 통보해 패치를 완료했다"고 했다.

앞서 보안업계에서는 앤트로픽의 AI 모델 '미토스'가 제로데이 취약점을 자동 탐색해 공격할 것이라는 가능성이 제기되기도 했다.

보고서는 북한과 중국의 지원을 받는 해커들도 이미 취약점 분석 및 공격 코드 개발에 AI를 활용하고 있다고 지적했다.

특히 북한의 해킹 그룹 'APT45'는 AI를 활용해 수천 개의 공격 코드를 검증하고 공격 자산을 대규모로 구축했다. APT45는 2009년부터 활동한 북한의 사이버 공격 조직이다.

중국 연계 해킹 조직이 일본 기술 기업의 취약점을 찾아내기 위해 AI에이전트로 지속적인 사이버 공격 기회를 모색한 것도 확인됐다. 중국 연계 사이버 스파이 조직인 'UNC5673'은 최신 LLM의 권한 확보를 시도하기도 했다.

이들은 계정 등록 자동화 프로그램과 미들웨어(신원 세탁 도구)를 활용해 익명으로 AI 모델에 접근한다. 이후 사용량 제한을 우회해 AI 서비스를 사이버 공격에 활용한다.

러시아 사이버 공격 세력은 우크라이나 공격용 멀웨어를 고도화하는 데에 AI를 사용했다. 또한 미국과 우크라이나, 프랑스 대상 정보 작전에서 뉴스 영상에 조작된 음성과 영상을 삽입하기도 했다.

구글은 자사 생성형 AI '제미나이'를 활용해 AI 에이전트 오남용을 방지하고, 해당 모델의 추론 능력을 활용해 보안 취약점을 수정한다고 설명했다.

존 헐트퀴스트 GTIG 수석 연구원은 "우리가 AI의 소행으로 밝혀낸 제로데이 이면에는 아직 탐지되지 않은 훨씬 더 많은 사례가 존재할 것"이라며 "국가 배후 세력은 물론, 사이버 범죄 집단의 AI 활용 위협을 결코 과소평가해서는 안 된다"고 말했다.

minjae@news1.kr