"인공지능(AI) 범죄로 인한 피해가 발생했을 때 책임을 쉽게 회피하거나, 아무도 책임지지 않는 상황을 만들어서는 안 됩니다"

AI 기술이 빠르게 발전하면서 새로운 범죄와 피해가 나타나고 있지만, 이를 규율하고 책임을 묻는 법과 제도는 그 속도를 따라가지 못하고 있다. 특히 AI 범죄에 취약한 아동·청소년을 보호하기 위한 제도적 장치를 서둘러 마련해야 한다는 지적이 나온다.

신혜진 서울남부지검 부장검사는 지난 7일 뉴스1과의 인터뷰에서 AI 범죄 피해 관련 형사책임의 공백을 막기 위한 법·제도 개선 필요성을 강조했다. 신 부장검사는 최근 '인공지능(AI) 이용 증가에 따른 아동·청소년의 피해 현황 및 법적 보호 방안 연구' 논문을 내기도 하는 등 AI 관련 연구를 이어가고 있다.

딥페이크 성범죄도 '법적 공백'…"2차 피해 발생 우려 커"
신 부장검사는 현재 대표적인 AI 범죄로 꼽히는 딥페이크 성범죄와 관련해 법적 공백이 발생할 수 있다고 지적했다. 특히 아동·청소년의 얼굴을 이용해 성착취물을 제작하더라도 실제 영상 속 신체가 성인이거나 결과물의 형태에 따라 아동·청소년 성착취물로 인정되지 않아 적용되는 죄명과 처벌 수위에 차이가 생길 수 있다는 것이다.

성폭력처벌법은 성인을 대상으로 허위 영상물 등을 제작·배포한 경우 최대 징역 7년까지 처벌할 수 있도록 규정하고 있다. 허위 영상물의 소지·구입·저장·시청 행위도 처벌된다. 아동·청소년 대상 딥페이크 성 착취물의 경우 아동·청소년의 성보호에 관한 법률에 따라 무기징역까지 가능하다.

문제는 아동·청소년의 얼굴을 이용한 딥페이크 성착취물이라도 신체가 성인으로 표현되는 등 현행법상 아동·청소년 성착취물의 정의에 해당하지 않는 경우가 발생할 수 있다는 점이다. 신 부장검사는 이를 "입법 미비의 문제"라고 지적하며 아동·청소년의 얼굴을 이용한 딥페이크 성착취물을 명확히 처벌할 수 있도록 아동·청소년 성착취물의 정의 규정을 개정하거나 별도의 입법을 마련할 필요가 있다고 주장했다.

다만 실제 아동·청소년을 대상으로 제작된 성착취물과 딥페이크 기술로 만들어진 성착취물을 동일한 양형 기준으로 처벌하는 것이 적절한지에 대해서는 별도의 논의가 필요하다고 봤다.

신 부장검사는 특히 딥페이크 성착취물이 실제 영상이 아니라는 이유만으로 피해를 가볍게 봐서는 안 된다고 단호히 말했다. 또 딥페이크 성착취물의 경우 제작·유포 이후 협박이나 강요 등 또 다른 범죄로 이어지면서 2차 피해가 발생할 가능성이 크다고 지적했다.

신 부장검사는 "허위 영상물이라고 하더라도 피해자가 겪는 고통과 트라우마는 매우 크다"며 "유포하지 않겠다는 것을 빌미로 성적 행위 강요, 금원을 갈취하거나 강간, 실제 불법 촬영으로 이어지는 등 2차 피해가 발생하고 있어 매우 심각하다"고 말했다.

온라인 환경의 특성상 딥페이크 성착취물 원본을 삭제하는 것만으로 피해 확산을 막기 어렵다는 점도 문제로 꼽았다. 한 번 제작된 영상이나 이미지가 복제·재유포되면서 피해가 반복될 수 있기 때문이다. 이에 신 부장검사는 미국의 '딥페이크 삭제 의무화법'(Take It Down Act)을 참고해 플랫폼에 신속한 탐지 및 사본 삭제 등 적극적인 기술적 조치를 요구할 필요가 있다고 강조했다.

"AI 범죄 책임 소재 특정 어려워…기업 사회적 역할 걸맞은 책임 물어야"
AI의 오작동이나 알고리즘 오류 등으로 예측하지 못한 범죄 피해가 발생한 경우 책임 주체와 발생 원인을 특정하기 어렵다는 점도 법적 공백을 키우는 요인이라고 짚었다. 하나의 AI 시스템을 개발·운영하는 과정에는 훈련·보안·모니터링 등 여러 단계에서 수많은 사람이 관여하는 데다, AI가 처리·출력 과정에서 불투명성(블랙박스 문제)을 가지기 때문이라는 설명이다.

AI가 어떤 과정을 거쳐 결과물을 생성했는지 확인하려면 사용자의 프롬프트 입력 자료와 로그 데이터, 각종 기술 문서 등을 분석해야 한다. 하지만 해외 AI 기업이 많은 상황에서 관련 자료를 확보하고 보존하는 데에도 어려움이 있다.

현행 국내 법체계에서 기업의 형사책임을 인정하는 데 한계가 있다는 점도 문제로 지적했다.

신 부장검사는 "위험한 인공지능을 개발하고 공급한 기업의 영리 활동으로 큰 피해가 발생할 경우를 대비해, 막대한 수익에 따른 책임을 지우는 방안을 논의할 때가 됐다"며 "양벌규정에 의한 처벌에 그치는 것이 아니라 기업의 사회적 역할에 상응하는 법적 책임을 실질화하는 시스템이 필요하다"고 말했다.

신 부장검사는 특히 인공지능의 투명성 강화와 알고리즘에 대한 규제도 필요하다고 강조했다. 그는 "AI 기반 추천 알고리즘이 적용되는 사회관계망서비스(SNS)는 이미 각종 범죄의 통로이자 매개 역할을 하고 있다"며 "플랫폼이 어떤 방식으로 아이들을 특정 콘텐츠에 반복 노출시키는지 추천 시스템의 주요 매개 변수 정보 공개, 추천 알고리즘에 대한 선택권 부여 등 알고리즘 규제 장치가 필요하다"고 지적했다.

"AI 범죄 책임, 누구도 회피해선 안 돼…취약한 아이들 보호해야"
신 부장검사는 AI 범죄에 따른 피해를 예방하기 위해서는 기술 개발과 활용 과정에서부터 책임 주체와 책임 범위를 명확히 해야 한다고 강조했다. 문제가 발생한 뒤 피해자나 이용자에게 책임을 떠넘기는 것이 아니라, 각 주체가 각자의 역할에 맞는 의무를 부담해야 한다는 취지다.

구체적으로 정부는 플랫폼의 책임을 강화하는 한편, AI 기업에 대해 챗봇 이용으로 인한 위험 방지 및 안전장치 구축 의무를 부과하는 입법을 추진해야 한다고 밝혔다. 기업에 대해서는 AI 설계 단계부터 아동·청소년 보호를 위한 안전성을 확보해야 한다고 강조했다.

아울러 부모와 학교의 역할도 중요하다고 봤다. 단순히 AI 활용법을 가르치는 데 그치지 않고, AI에 지나치게 의존하지 않으면서 사회성과 인간성을 함양하는 교육을 할 필요가 있다는 설명이다.

신 부장검사는 "AI는 인간에게 많은 이점을 주지만 위험이 발생했을 때 누가 어떤 책임을 질 것인지 명확하게 하는 법체계도 확립해야 한다"고 말했다.

특히 아동·청소년이 AI 범죄의 법적 공백에서 가장 큰 피해자가 될 수 있다고 거듭 강조했다.

신 부장검사는 "어른들이 만들어 놓은 AI와 같은 거대한 기술에 가장 취약한 아이들이 제일 먼저 노출되고 큰 피해를 입을 수 있다"며 "이러한 상황에 대해, AI 기술을 안전하지 않게 설계한 어른들이 책임져야 하는 것"이라고 말했다.

ksy@news1.kr