중앙디지털성범죄피해자지원센터 설명회가 진행되는 모습. (성평등가족부 제공)
인공지능(AI)이 하루 평균 5000개의 아동·청소년 성착취 의심 게시물을 분석하자, 담당 직원 한 명이 온라인 플랫폼에 게시물 삭제를 요청하는 건수가 약 10배 가량 늘었다.
성평등가족부는 10일 오전 서울 중구 한국여성인권진흥원에서 기자단을 대상으로 설명회를 열고 이같이 밝혔다.
AI가 하루 5000개 성착취 의심 게시물 분석…온라인 그루밍 탐지까지
성평등부는 AI가 도입된 지난 4월 이후 9월까지 아동·청소년 성착취물 9만6210건에 대한 삭제 지원이 이뤄졌다고 밝혔다. 지난해 삭제 지원 건수인 4만 5438건의 두 배를 넘어선 수치다.
기존에는 아동·청소년 성착취물 삭제 지원을 위해 담당자가 사회관계망서비스(SNS)와 채팅앱에서 성착취 관련 게시물을 일일이 검색하고 확인한 뒤 플랫폼에 삭제를 요청해야 했다.
AI가 도입된 이후에는 SNS와 채팅앱 등 14개 플랫폼에서 성착취 의심 게시물을 24시간 자동으로 수집하고 분석한다. 최종 신고·삭제 요청 여부는 담당자가 판단한다.
AI가 성착취 의심 게시물을 먼저 찾아내면서 담당 직원 한 명이 온라인 플랫폼에 성착취 게시물 삭제를 요청하는 건수는 하루 평균 지난해 20.8건에서 올해 202.1건으로 약 10배 늘었다.
중앙디지털성범죄피해자지원센터 관계자는 "사람의 눈으로는 도저히 감당할 수 없는 양을 AI가 1차로 걸러내는 것"이라며 "플랫폼을 등록해 두면 밤낮없이 주말에도 멈추지 않고 게시물을 수집해 실무자에게 배분한다"고 설명했다.
센터는 앞으로 AI가 대화의 맥락까지 분석해 온라인 그루밍을 탐지해내는 기술을 도입할 계획이다.
센터 관계자는 "청소년이 올린 짧은 영상에 '예쁘다, 몇 살이야' 같은 댓글이 달리면 얼핏 보면 칭찬이고 관심이지만, 이런 말로 신뢰를 쌓고 개인 연락을 유도하는 것이 온라인 그루밍의 시작"이라고 설명했다.
중앙디지털성범죄피해자지원센터 설명회. (성평등가족부 제공)
디지털성범죄 피해자 4명중 3명은 10·20대…피해 지원도 5년 새 2배↑
AI를 활용한 대응이 강화되고 있지만 디지털성범죄 피해는 꾸준히 증가하고 있다. 중앙디성센터가 지원한 피해자 수는 지난 2020년 4973명에서 지난해 1만637명으로 5년새 2배 이상 증가했다.
특히 전체 피해자의 77.6%가 10대와 20대에 집중된 것으로 나타났다. 10·20대가 SNS를 활발하게 이용하고 소통하기 때문이라는 것이 센터 설명이다.
문제는 피해촬영물을 찾아내더라도 삭제 요청의 28.5%가 이행되지 않는다는 점이다.
삭제 요청에 응하지 않는 불법유해사이트의 대부분이 해외 서버를 이용하고 있는데, 이들은 도메인을 바꾸거나 실제 서버 위치를 숨겨 차단을 피하고 있다.
도박·성매매 광고를 게시하거나 성착취물 열람을 위한 유료 결제를 유도해 수익을 얻기도 한다.
정부는 삭제 요청에 불응하고 피해촬영물을 반복 유포하는 불법사이트에 대응하기 위해 지난 5월 디지털성범죄피해통합지원단을 출범했다.
통합지원단에는 성평등부와 방송미디어통신위원회, 경찰청이 참여하고 있다. 지원단은 불법사이트의 유통 경로와 수익 구조를 분석하고, 수사·접속차단·사업자 제재 등을 추진하고 있다.
지난 9월 발표된 실적에 따르면 접속 가능한 불법사이트는 6683개에서 4736개로 약 29% 줄었다.
원민경 성평등부 장관은 "앞으로도 AI 등의 최신 기술을 현장에 적극 도입하여 대응 속도와 정확도를 높이고 보다 촘촘한 지원체계를 구축하여 피해자의 신속한 일상 회복을 위해 최선을 다하겠다"고 했다.
mark834@news1.kr
