(사진=스레드 캡처)
올해 7월부터 시행된 개정 정보통신망법(이른바 ‘허위조작정보 근절법’)은 일평균 이용자 수(DAU) 100만 명 이상인 대규모 플랫폼 사업자에게 엄격한 관리 의무를 부과하고 있다. 메타(인스타그램·페이스북·스레드), 구글(유튜브), X, 틱톡, 네이버, 카카오 등 주요 IT 기업들은 악의적 유해정보 및 허위조작정보 유포에 대해 신고·처리 체계를 마련하고, 자율운영 정책과 정기적인 투명성 보고서를 공표해야 한다.
또한 고의적인 유해·허위정보로 수익을 올린 게재자에게는 손해액의 최대 5배에 달하는 징벌적 손해배상이 청구되며, 반복 유통 시 최대 10억 원의 과징금이 부과될 수 있다.
법제화 이후 주요 플랫폼사들은 표면적으로 공지사항을 정비하고 전용 신고 채널을 개설하는 등 소위 ‘컴플라이언스(법적 준수)’ 맞추기에 나섰다. 하지만 실제 이용자들이 체감하는 유해 콘텐츠 차단 효과는 미미하다는 평가가 지배적이다.
문제는 규제를 피하려는 유해 콘텐츠의 유통 수법이 점점 지능화되고 있다는 점이다. 유포자들은 타깃팅 광고나 24시간이 지나면 자동으로 사라지는 인스타그램 ‘스토리’, 광고형 스레드 게시물 등을 악용하고 있다.
예를 들어 일반 약품이나 식품 등 정상적인 사진을 올려놓고 문의는 전용 채널이나 다이렉트메시지(DM), 라인이나 텔레그램을 통해 받는 식이다. 특정 키워드 음절을 분리하거나 변형된 이미지 형태로 게시하기 때문에 AI 알고리즘의 1차 사전 필터링을 회피할 수 있다.
방송미디어통신위원회 관계자는 “원칙적으로 사업자에게 신고하고, 불법정보는 내부 조치를 취해야 한다”며 “또한 방송미디어심의위원회에 삭제 및 차단 조치를 요구할 수 있다”고 말했다.
이어 “사업자가 스스로 자율 규제를 해야 하는데, 예를 들어 발견한 사람이 신고하고 플랫폼이 답장하고 조치하는 형식”이라며 “개정망법에 따라 신고를 받으면 사업자는 내부조치를 하고, 게재자를 알리는 등 신속 조치하도록 돼있다”고 덧붙였다.
◇사후 신고 구조의 한계…실시간 AI 탐지 및 강력 제재 필요
플랫폼 사업자의 대응이 사후 신고 처리에 치우쳐 있다는 점도 악순환을 키운다. 현행 법령상 플랫폼은 이용자나 대리신고 기관의 구체적인 신고가 접수된 이후에야 삭제 및 차단 검토에 착수한다. 정작 신고가 접수돼 조치가 내려질 즈음에는 해당 스토리가 삭제되거나, 수많은 이용자에게 마약판매 텔레그램 링크나 불법 촬영물이 노출된 이후가 될 수 밖에 없다.
IT 업계는 플랫폼의 모니터링 방식이 신고 창구 운영을 넘어 멀티모달 AI 차단기술을 통해 실시간으로 탐지해야 한다고 지적한다.
이성엽 고려대 기술경영전문대학원 교수는 “플랫폼이 게시물이 올라왔을 때 문제가 있는지 AI 탐지 모니터링으로 실시간으로 잡아낼 필요가 있다”며 “사전 검열에 저촉되지 않는 선에서 모니터링을 강화하고, 순식간에 퍼지는 유해 정보의 확산 범위를 늦추기 위해서는 사후에 해당 게재자에 대해 계정 폐쇄 등 강력한 조치를 취해야 한다”고 말했다.
