© 로이터=뉴스1
인공지능(AI)이 사람의 개입 없이 소프트웨어 취약점을 찾아 공격 코드를 만들고 실제 공격까지 실행하는 자율 해킹 체계가 처음 확인됐다. AI 에이전트가 공격 과정을 자동으로 수행하면서 사이버 보안 위협이 새로운 단계에 접어들었다는 분석이 나온다. 17일 구글 위협정보그룹(GTIG)과 맨디언트가 발표한 'AI 위협 추적 보고서'에 따르면 구글은 최근 인간의 개입 없이 취약점 발견부터 공격 실행까지 자동화하도록 설계된 다중 AI 에이전트 시스템을 처음 확인했다. 구글이 발견한 '익스플로잇 에이전트'(exploit_agent)는 여러 대규모언어모델(LLM)을 연결해 소프트웨어의 보안패치 전후 코드를 비교하고 취약점을 분석하는 시스템이다. 이 시스템은 취약점이 발견되면 이를 악용할 공격 코드를 자동으로 생성하고 실행하도록 설계됐다. 해커가 직접 코드를 분석하거나 공격 명령을 입력하지 않아도 일련의 공격 과정이 진행되는 구조다. 구글은 해당 시스템이 설치된 외부 노출 서버에서 피해 대상으로부터 유출된 데이터와 내부망 정찰, 비밀번호 무차별 대입, 웹셸 설치 등을 수행할 수 있는 스크립트도 발견했다. 서버에 남은 기록에서는 프랑스의 언론·엔터테인먼트·교육 분야 웹사이트를 집중적으로 노린 정황이 확인됐다. 구글은 "지난 분기 인간의 개입 없이 취약점 발견과 악용을 완전히 자동화하기 위해 LLM 프레임워크를 사용하는 위협 행위자를 처음 확인했다"고 밝혔다. 이번 AI 기반 해킹의 가장 큰 위협은 공격 속도다. 기존에는 해커가 보안패치를 분석해 취약점을 파악하고 공격 코드를 제작하는 데 상당한 시간이 필요했지만, AI는 이 과정을 자동화할 수 있다. 실제로 지난 8월 공개된 페이퍼컷(PaperCut) 서버 취약점 2개는 공개 나흘 만에 수백 개 조직을 대상으로 한 공격에 활용됐다. 구글은 당시 공격자가 AI를 이용해 공격 코드를 개발하고 표적을 선정했을 가능성이 있다고 설명했다. AI 해킹 도구도 빠르게 확산하고 있다. 구글은 케언(CAIRN), 사이버스트라이크AI(CyberStrikeAI), 펜트AGI(PentAGI) 등 오픈소스 기반 다중 AI 에이전트 프레임워크가 실제 공격에 활용되거나 공격자들의 실험 대상이 되고 있다고 밝혔다. 특히 지난 8월 말부터 10월 초까지는 펜트AGI를 기반으로 구축한 공격 시스템이 아시아 지역의 여러 조직을 대상으로 정찰과 취약점 탐색을 수행한 사실도 확인됐다. 다만 AI 자율 해킹이 모든 공격에서 인간을 대체한 것은 아니다. 현재 AI 기반 공격 도구는 대규모 네트워크 트래픽과 식별 가능한 코드 흔적을 남기는 등 탐지에 취약한 한계도 있다. 구글은 "공격 방식 자체는 기존과 같지만 알려진 취약점을 악용하는 속도와 규모가 새로운 방어 과제를 만들고 있다"며 AI 기술이 발전할수록 인간의 개입은 더욱 줄어들고 공격의 은밀성과 정교함은 높아질 것으로 전망했다.
Kris@news1.kr









