인공지능(AI)이 범죄의 새로운 도구로 자리 잡으면서 이를 악용한 범죄도 빠르게 진화하고 있다. 딥페이크를 이용한 성범죄부터 AI를 활용한 타인 사칭, 사이버 괴롭힘, 사기까지 범죄 수법은 갈수록 다양해지는 모습이다.

하지만 AI 기술의 발전 속도를 법과 제도가 따라가지 못하면서 새로운 범죄 유형이 등장할 때마다 처벌과 피해 구제에 공백이 발생할 수 있다는 지적이 나온다.

현재 국내 법체계는 딥페이크 성범죄와 선거 관련 허위영상물 등 일부 범죄에는 처벌 근거를 마련하고 있지만, AI를 이용한 사칭이나 새로운 형태의 사이버 괴롭힘·사기 등에 대해서는 기존 법률을 적용하기 어려운 경우가 있기 때문이다.

전문가들은 구체적인 처벌 규정 제정과 함께 불법 콘텐츠의 조기 탐지와 신속한 삭제, 플랫폼의 책임, 피해자 보호, 수사기관의 AI 활용 기준까지 아우르는 새로운 AI 시대 안전망이 필요하다고 지적한다.

딥페이크·선거범죄는 처벌…AI 사칭 등은 공백
17일 경찰에 따르면 2024년 11월부터 2025년 10월까지 사이버성범죄로 3411건, 총 3557명이 검거되고 이 가운데 221명이 구속됐다. 중앙디지털성범죄피해자지원센터에 따르면 2025년 디지털 성범죄 피해를 호소한 10대 피해자는 3052명에 달했다.

성범죄가 아니더라도 AI로 만든 합성 사진이나 영상이 사이버 괴롭힘의 수단으로 악용되는 사례도 늘고 있다. 피해자의 얼굴을 다른 사진에 합성하거나 실제로 하지 않은 말과 행동을 한 것처럼 꾸며 SNS에 유포하는 등 사이버 괴롭힘에도 AI가 활용되고 있다.

AI가 범죄에 활용되는 영역이 빠르게 넓어지고 있지만, 현재 국내에서 비교적 명확하게 규율되는 분야는 딥페이크 성범죄와 선거 관련 범죄 등 일부에 그친다.

성폭력범죄의 처벌 등에 관한 특례법(성폭력처벌법)은 사람의 얼굴·신체 또는 음성을 대상으로 한 촬영물·영상물을 대상자의 의사에 반해 성적 욕망이나 수치심을 유발할 수 있는 형태로 편집·합성·가공할 경우 7년 이하의 징역 또는 5000만 원 이하의 벌금에 처하도록 한다.

공직선거법 역시 선거일 90일 전부터 선거일까지 AI를 이용해 실제와 구분하기 어려운 허위 음향·이미지·영상물을 제작·유포하는 행위를 금지하고 있다.

하지만 AI를 이용한 타인 사칭이나 사이버 괴롭힘, 새로운 형태의 사기 등은 기존 법률만으로 처벌하기 어려운 경우가 있다.

소년·학교폭력 분야 2급 공인전문검사(블루벨트)이자 3편의 AI 관련 논문을 집필한 신혜진 서울남부지검 부장검사는 '인공지능 이용 증가에 따른 아동·청소년의 피해 현황 및 법적 보호 방안 연구'에서 현행법상 AI를 이용한 사칭 범죄에 법적 공백이 존재할 수 있다고 지적했다.

현재 정보통신망을 이용해 반복적으로 타인을 사칭해 상대방에게 불안감이나 공포심을 유발한 경우에는 스토킹처벌법 적용을 검토할 수 있지만, 피해자가 사칭 사실 자체를 알지 못하거나 반복성이 인정되지 않는 경우에는 스토킹으로 처벌하기 어렵다. 단순히 타인을 사칭했다는 이유만으로 명예훼손죄를 적용하기도 쉽지 않다.

신 부장검사는 미국 뉴욕주 형법처럼 타인을 속이거나 손해를 가하거나 이익을 얻을 목적으로 특정인으로 행세하는 행위 자체를 처벌하는 입법례를 참고할 필요가 있다고 제안했다.

올해부터 시행된 인공지능기본법도 AI 범죄 대응의 한 축으로 꼽힌다. 인공지능기본법은 생성형 AI를 이용한 제품이나 서비스를 제공할 경우 해당 사실을 이용자에게 사전에 고지하고, 생성형 AI 결과물이라는 사실을 표시하도록 규정하고 있다.

하지만 표시가 제3자에 의해 삭제될 경우 실효성이 떨어질 수 있다는 지적이 나온다.

김명주 인공지능안전연구소 소장은 "인공지능기본법은 어디까지나 개발사나 사업자를 대상으로 한다"며 "유튜버 등이 이런 워터마크를 빼버리는 행위를 처벌하기 어렵다"고 말했다.

유포된 AI 콘텐츠 신속 삭제도 관건…해외는 플랫폼 책임 강화
이미 유포된 AI 콘텐츠의 확산을 어떻게 막을 것인지도 중요한 문제다.

온라인에 한 번 유포된 AI 생성 콘텐츠는 짧은 시간에 복제·재유포될 수 있다. 따라서 피해자가 신고한 뒤 실제 콘텐츠가 삭제되기까지 걸리는 시간이 피해 규모를 좌우할 수 있다.

최병호 고려대 AI 연구소 교수는 "AI 관련 범죄에 효과적인 대응하는 방식은 결국 플랫폼을 통한 해결밖에 없다"고 말했다.

해외에서는 법적으로 플랫폼의 삭제 책임을 강화하는 움직임이 이어지고 있다.

미국은 딥페이크 삭제 의무화법(TAKE IT DOWN Act)을 통해 동의 없이 만들어진 이미지와 AI로 만들어진 딥페이크 등의 유포를 범죄로 규정하고, 플랫폼 업체에 신고가 접수되면 48시간 이내 삭제하도록 의무화하고 있다. 영국과 호주 역시 플랫폼에 불법·유해 콘텐츠 대응과 피해자의 삭제 요청 등에 관한 의무를 부과하고 있다.

우리나라도 정보통신망법과 전기통신사업법 등을 통해 불법 촬영물 등의 삭제·차단 의무를 두고 있다. 그러나 미국처럼 구체적인 처리 기한을 규정하지 않아 실제 삭제까지 상당한 시간이 걸리더라도 사업자에게 별도의 책임을 묻기 어려운 구조라는 지적이 나온다.

처벌 넘어 탐지·플랫폼·수사까지…새로운 안전망 필요
전문가들은 AI 범죄 대응을 새로운 처벌 규정을 만드는 문제로만 접근해서는 안 된다고 입을 모은다. 범죄가 발생한 뒤 가해자를 처벌하는 것과 함께 불법 콘텐츠를 조기에 탐지하고 확산을 차단할 기술, 플랫폼의 책임, 피해자 구제 체계를 함께 마련해야 한다는 것이다.

김동환 포티투마루 대표는 "업계 차원에서도 생성물과 딥페이크에 대한 워터마크 의무 이행, AI 악용 범죄를 탐지하기 위한 위험관리 체계 구축, 사전 영향평가와 사람에 의한 관리·감독 체계 마련 등 자정 노력이 필요하다"고 말했다.

형사사건을 주로 맡는 한 변호사도 "법제를 만드는 것도 중요하지만 불법적인 영상물을 바로바로 차단할 수 있는 기술도 함께 발전해야 한다"며 "플랫폼이 어떤 기준으로 콘텐츠를 차단할 것인지 명확한 기준을 미리 마련할 필요가 있다"고 말했다.

AI가 범죄를 추적하는 수단으로 활용되는 만큼 수사기관의 AI 활용 기준도 필요하다는 지적이 나온다. 최병호 교수는 "AI를 이용한 수사 과정에서 결괏값을 그대로 받아들여서는 안 된다"며 "AI 분석 결과에 대한 판단 기준과 검증 절차가 필요하다"고 강조했다.

AI를 악용한 범죄는 기술이 발전할수록 새로운 형태로 등장할 가능성이 높다. 이 때문에 새로운 범죄가 나타날 때마다 개별적인 처벌 규정을 추가하는 방식만으로는 한계가 있다는 지적이 나온다.

서초동의 한 변호사는 "AI가 만들어내는 결과물을 완벽하게 차단하거나 모든 범죄를 사전에 예측해 처벌 규정을 촘촘하게 만드는 것은 현실적으로 어렵다고 본다"며 "법과 제도가 뒤쫓는 데 그치는 것이 아니라, 새로운 안전망을 구축하는데 집중해야 할 때"라고 밝혔다.

sh@news1.kr