인공지능(AI)을 악용한 범죄가 딥페이크 성범죄를 넘어 명예훼손과 투자사기, 보이스피싱 등으로 확산하자 경찰이 AI 불법 조작물을 탐지하는 데서 나아가 생성·유포 과정까지 추적하는 분석체계를 구축한다.

경찰청 국가수사본부는 AI 불법 조작물 탐지·분석체계 고도화 기본계획을 수립해 본격 시행한다고 15일 밝혔다.

이번 계획은 갈수록 정교해지는 AI 조작 기술에 대응해 조작 여부를 신속·정확하게 판별하는 동시에 AI를 이용해 조작물을 만들고 유포하는 범행 전 과정을 분석하는 역량을 강화하는 데 중점을 두고 있다.

이에 따라 경찰은 △AI 조작물 정밀 탐지 시스템 구축 △자동화 분석 도구 개발 및 기법 고도화 △AI 전문분석관 운영 △표준 절차 정립 △전문가그룹 운영 등 기술·시스템·인력·조직 측면의 8대 세부 과제를 추진한다.

우선 경찰은 AI 조작물들의 조작 여부를 신속히 탐지해 대응할 수 있도록 차세대 정밀 탐지 시스템을 구축한다는 방침이다.

영상이나 이미지만 분석하던 기존 방식에서 벗어나 영상·음성·문자를 동시에 살펴보는 '멀티모달(Multi Modal) 딥페이크 탐지 기술'을 도입한다.

AI로 만들어진 결과물뿐 아니라 어떤 AI를 이용해 어떻게 조작했는지 범행 과정을 규명하는 기술도 강화한다.

경찰은 사용 빈도가 높은 주요 생성형 AI 서비스를 대상으로 프로그램 실행 이력과 명령어 기록을 분석하고, 조작에 사용된 특정 프로그램을 식별하거나 변형된 자료를 분석하는 기법을 개발하고 있다. 개발한 분석기법은 설명서 형태로 일선에 보급하고 새로운 AI 기술에 대한 연구도 이어갈 방침이다.

불법 조작물의 생성부터 유포까지 범행 전 과정을 분석해 증거를 추출하는 작업을 자동화하는 도구도 개발한다. 이를 위해 올해부터 2029년까지 100억원을 들여 '로컬환경 인공지능 모델 대상 포렌식 기술개발' 사업을 진행한다.

경찰은 조작물 분석에 특화된 'AI 전문분석관'을 전국 시도경찰청에 배치·운영하고 현장 수사관과 분석관을 대상으로 한 전문교육을 확대한다. 민·관·학 전문가 그룹을 구성해 최신 AI 기술 동향과 주요 탐지 사례, 신규 프로그램 분석 결과도 공유하기로 했다.

김종철 경찰청장 직무대행은 "AI로 만든 가짜를 신속하게 찾아내는 것은 물론, 어떻게 만들어지고 유포됐는지까지 효과적으로 추적할 수 있는 첨단 수사 역량을 갖추겠다"고 밝혔다.

sh@news1.kr