AI 활용 공격 흐름도 (사진=지니언스 위협 인텔리전스 보고서)
그동안 북한 해킹 조직은 외교·안보 전문가를 타깃으로 실제 업무 관련자를 사칭한 스피어피싱 이메일을 발송하는 방식을 주로 활용해 왔다. 수신자가 이메일에 첨부된 ZIP 압축파일 속 문서 모양의 악성 LNK(바로가기) 파일을 실행하면 백그라운드에서 PowerShell 스크립트가 동작하는 방식이 대표적이다.
기존에 확인된 북한 해킹조직의 AI 활용은 주로 이미지와 음성 위조, 피싱용 미끼 제작 등 공격 준비 단계에 집중돼 있었다. 그러나 이번 분석에서는 AI를 단순히 미끼 제작에 활용하는 수준을 넘어, 위협 행위자가 직접 로컬 대형언어모델(LLM) 실행 환경과 검색증강생성(RAG) 환경을 구축하고 AI 기반 개발 환경을 운영한 흔적이 확인됐다.
이는 외부 서비스로 데이터를 전송하지 않고도 운용할 수 있는 로컬 LLM을 활용해 탈취 문서를 분석하거나, 정보 추출과 공격 업무를 자동화하려는 시도로 해석된다. AI를 활용한 공격 등 사이버 위협이 국가 안보와 기업의 생존을 위협할 수준으로 고도화되고 지능화되는 상황에서 매우 주의가 필요하다.
구체적으로 살펴보면 Ollama, GPT4All, Msty 등 로컬 LLM 실행 및 관리 도구와 RAG 구성 환경, AI 에이전트 개발 프레임워크, 음성인식(STT) 도구 등을 구축하거나 활용한 정황이 확인됐다.
또한 코딩 전문 AI 커서(Cursor)의 설치 및 사용 흔적도 다수 식별됐으며, 커서를 이용해 공격에 활용된 문서를 편집하고, 생성 결과물을 검토한 것으로 보이는 기록도 확인됐다. 이는 AI를 악성코드 개발과 공격 자동화에 활용하기 위한 연구와 기술 검증이 진행되고 있음을 시사하는 중요한 사례라고 지니언스는 설명했다.
공격 기법 역시 한층 정교해졌다. 기존에는 탈취한 정상 문서를 재활용하는 사례가 많았지만 최근에는 생성형 AI를 활용해 제작한 것으로 판단되는 가상자산과 금융 분야 문서를 스피어피싱 미끼로 활용하고 있었다. 자연스러운 문체와 실제 업무 문서 수준의 높은 완성도로 사용자의 신뢰를 높여 악성 파일 실행을 유도하는 방식이다.
특히, 이번 공격은 가상자산 분야를 주요 표적으로 삼고 있다는 점에서도 주목된다. 투자 전략 보고서와 금융 자료를 위장한 악성 문서가 지속적으로 유포됐다. 분석 과정에서는 가상자산 지갑 정보와 Gmail 계정 정보, 웹사이트 가입 이력 등 개인정보의 노출 여부를 확인하려는 정황도 함께 식별됐다.
지니언스 시큐리티 센터장 문종현 이사는 “이번 분석은 국가 배후 해킹조직이 AI를 실제 공격 체계에 접목하기 위해 로컬 LLM과 AI 개발 환경까지 구축하며 공격 역량을 고도화하고 있음을 보여주는 사례”라며 “AI 기술의 발전으로 사회공학 공격이 더욱 정교해질 것으로 예상되는 만큼, 문서 내용보다 실행 행위를 중심으로 탐지하는 EDR 기반 위협 헌팅 체계가 무엇보다 중요하다”고 강조했다.
이번 분석 결과는 지니언스 시큐리티 센터가 매월 발간하는 위협 인텔리전스 보고서에 담겼다. 이번 분석 결과는 한국인터넷진흥원(KISA) 위협 인텔리전스 네트워크 협의체를 비롯한 국내외 협력 체계와 긴밀히 공유되고 있으며, 지니언스 홈페이지에서 보고서 전문을 볼 수 있다.
