정부가 딥페이크 성착취, 인공지능(AI) 허위·부당광고, AI 금융사기 등 AI 악용 범죄에 대응하기 위한 범부처 협의체를 출범했다. AI 범죄가 온라인 플랫폼, 금융, 통신, 개인정보, 수사, 국제협력 등 여러 영역을 넘나드는 복합 범죄로 번지면서 개별 부처 대응만으로는 한계가 있다는 판단에서다.

방송미디어통신위원회는 26일 'AI 범죄 대응 범부처 협의체' 킥오프 회의를 열고 그간 세 차례 실무회의를 통해 마련한 'AI 범죄 근절 종합 대응 계획'과 'AI 범죄 통합 대응체계 구축 방안'을 논의했다.

협의체에는 방미통위를 비롯해 과학기술정보통신부, 외교부, 법무부, 성평등가족부, 금융위원회, 공정거래위원회, 개인정보보호위원회, 식품의약품안전처, 경찰청 등이 참여했다.

정부가 협의체를 띄운 배경에는 AI 범죄의 빠른 확산과 복합화가 있다. 과거 사이버 범죄가 해킹, 불법촬영물 유포, 전화금융사기처럼 유형별로 나뉘었다면 최근에는 생성형 AI가 가짜 영상, 음성, 광고 문구, 신분증 이미지, 투자 권유 콘텐츠를 동시에 만들어내며 여러 범죄를 결합시키는 양상이다.

딥페이크 성범죄 급증…합성·편집 피해 16.8%↑
대표적인 분야는 딥페이크 성범죄다. 성평등가족부와 한국여성인권진흥원의 '2025 디지털성범죄 피해자 지원 보고서'에 따르면 2025년 중앙디지털성범죄피해자지원센터는 피해자 1만 637명에게 상담, 삭제지원, 수사·법률·의료지원 연계 등 35만 2103건의 서비스를 지원했다.

피해 유형별로는 유포불안이 27.7%로 가장 많았고 불법촬영 21.9%, 유포 17.7%, 유포협박 12.2%, 합성·편집 9.2% 순이었다. 불법촬영 피해는 전년 대비 7.8% 줄었지만 합성·편집 피해는 16.8%, 사이버 괴롭힘 피해는 26.6% 늘었다.

이는 디지털성범죄가 실제 촬영물을 확보해 유포하는 방식에서 AI 합성·편집 기술로 존재하지 않던 피해물을 만들어내는 방식으로 옮겨가고 있음을 보여준다. 합성·편집 피해 중 10대와 20대 비중은 91.2%였고, 여성 피해는 1581건으로 남성 35건보다 약 45배 많았다.

한국형사·법무정책연구원도 딥페이크 범죄 관련 지표를 분석하며 2021년 대비 2024년 10월 기준 방송통신심의위원회 심의는 5배, 피해자 지원은 약 7배, 경찰 신고는 6배 이상 증가했다고 설명했다. 지표마다 기준은 다르지만 딥페이크 범죄가 특수 사례를 넘어 현실화됐다는 신호로 볼 수 있다.

보이스피싱은 줄었지만…AI 결합한 신종 스캠 우려
AI 범죄는 성범죄 영역에만 머물지 않는다. 기존 보이스피싱은 범정부 대응으로 감소세를 보이고 있지만 사회관계망서비스(SNS)와 메신저를 이용한 투자리딩방, 로맨스스캠, 사칭 광고 등 신종 스캠 범죄가 늘면서 AI 악용 가능성이 커지고 있다.

정부는 지난해 8월 '보이스피싱 근절 종합대책'을 수립하고 전기통신금융사기 통합대응단 출범, 범죄 이용 전화번호 긴급 차단, 보이스피싱 정보 공유 AI 플랫폼 구축 등을 추진한 바 있다.

그 결과 지난해 10월부터 올해 4월까지 보이스피싱 발생 건수는 1만 4461건에서 9353건으로 35.3% 줄었고, 피해액도 7632억 원에서 4936억 원으로 감소했다.

그러나 전통적 보이스피싱이 줄어드는 사이 범죄는 플랫폼과 메신저, 가짜 광고, 가짜 인물, 가짜 음성을 활용하는 방향으로 이동하고 있다. AI로 만든 얼굴·목소리와 투자 정보, 허위 광고가 결합하면 피해자가 사기를 의심하기 더 어려워질 수 있다.

AI 범죄는 부처 경계 밖에서 확산…관건은 정보공유 속도
이날 논의된 'AI 범죄 근절 종합 대응 계획'은 AI 범죄 예방, 탐지·차단, 수사·단속, 피해회복, 재발방지 등 대응 전 과정을 포괄한다. 정부는 관계부처가 각자의 전문성과 정책 수단을 연계해 AI 범죄에 대응하는 데 초점을 맞췄다.

핵심은 정보 공유 속도다. AI 범죄는 특정 플랫폼에서 징후가 발견돼도 실제 피해는 금융, 통신, 개인정보, 수사 영역으로 빠르게 번질 수 있기 때문이다.

정부는 상시 통합 대응체계를 통해 범죄 징후를 공동 분석하고 신속히 공유하는 방안을 검토하고 있다. 방미통위는 플랫폼 유통과 이용자 보호, 과기정통부는 AI·통신·정보보호 정책, 금융위는 금융사기 대응, 개인정보위는 개인정보 침해, 경찰청은 수사·단속을 맡는다.

정부는 관계부처 합동으로 마련한 'AI 범죄 근절 종합 대응계획'을 향후 국가AI전략위원회 등과 협의를 거쳐 발표할 예정이다.

킥오프 회의를 주재한 고민수 방미통위 상임위원은 "AI 기술 발전은 새로운 기회와 함께 새로운 위험도 가져오고 있다"며 "AI 기술을 악용한 범죄는 어느 한 기관의 노력만으로 대응하기 어려운 만큼 관계부처가 긴밀히 협력해 국민 피해를 예방하고, 안심하고 AI를 활용할 수 있는 환경을 만들어 나가겠다"고 밝혔다.

kxmxs4104@news1.kr