이번 계획은 날로 정교해지는 AI 조작 기술에 맞서 경찰이 조작 여부를 신속하고 정확하게 탐지하고, AI를 이용한 조작과 유포 등 범행의 전체과정을 분석하는 역량을 대폭적으로 향상시키는 것에 중점을 두고 있다.
우선 AI 조작물의 조작 여부를 신속하게 탐지하기 위한 차세대 정밀 탐지 시스템을 구축한다.
경찰은 ‘멀티모달 딥페이크 탐지 기술’을 도입하기 위한 연구개발 사업을 진행하고 있다. 기존에는 주로 시각적 요소인 영상·이미지를 중심으로 조작 여부를 살폈다면, 앞으로는 영상뿐만 아니라 음성과 문자까지 함께 분석해 탐지 성능을 높인다. 경찰은 구개발 완료에 따라 경찰을 비롯한 모든 수사기관이 공동으로 활용할 수 있는 시스템 구축을 추진할 계획이다.
또 생성형 AI 등을 이용한 조작물 생성과 유포 등 범행 과정에 대한 분석 기술을 강화하고 자동화된 도구 개발을 추진한다.
전문적 인력 및 조직과 대내외 협력 대응 체계도 구축한다. 조작물 분석에 특화된 ‘AI 전문분석관’을 전국 시도경찰청에 배치·운영하고 현장수사관과 분석관에 대한 전문교육을 대폭 확대한다. 아울러 민·관·학 분야의 전문가 그룹을 운영해 최신 AI 기술 동향과 주요 탐지 사례, 신규 프로그램 분석 성과 등을 지속적으로 공유하고 함께 관련 범죄에 대응해 나간다는 계획이다.
김종철 경찰청장 직무대행은 “AI를 이용한 범죄 수법이 빠르게 변하는 만큼 경찰의 대응도 달라져야 한다”며 “경찰은 AI로 만든 가짜를 신속하게 찾아내는 것은 물론, 어떻게 만들어지고 유포됐는지까지 효과적으로 추적할 수 있는 첨단 수사 역량을 갖춰 국민이 안심하고 AI 기술을 이용할 수 있도록 하겠다”고 밝혔다.
