네이버 클로바 그린아이 유해 콘텐츠 등급 분류 기준(사진=네이버 클라우드 플랫폼)
네이버는 자체 개발한 AI 필터링 기술인 ‘클로바 그린아이’로 이용자가 게시물을 올리는 즉시 음란성 지수를 산출한다. 약 99% 이상의 높은 적중률로 부적절한 이미지와 영상을 실시간 차단하며 청소년의 시각적 노출을 원천 봉쇄한다.
카카오는 ‘이미지 레벨 시스템’으로 딥러닝 기반의 다단계 필터링을 통해 불법·광고성 이미지와 유해 콘텐츠를 정교하게 걸러낸다. 검색 결과 노출 전 모니터링 단계를 두어 ‘클린 플랫폼’을 유지하는데 힘쓰고 있다.
카카오 유해 이미지 차단 기술 이미지 레벨 시스템(사진=카카오)
네이버는 성적 불법촬영물 73건, 성적 허위영상물 7건, 아동청소년 성착취물 19건 등 총 91건 신고를 접수 받아 4건을 삭제·접속차단 처리했다. 네이버 측은 “불법촬영물등 신고창구를 통해접수된 신고건 중 신고서식을 갖추지 못하거나, 신고내용의 확인이 어려운경우 보완요청 등의 추가 안내를 진행해 적시에 필요한 조치를 할수있도록 적극적으로 대응하고 있다”고 설명했다.
네이버의 경우 카페, 블로그, 지식iN, 밴드, 치지직 등 주요 서비스에 정부 제공 기술을 활용한 기술적 필터링을 적용해 불법촬영물의 게재를 제한하고 있다. 만약 ‘몰카’ 등 불법촬영물 접근 목적의 검색어를 입력하면 검색 결과 송출을 제한하며, 자동완성어나 연관검색어에도 노출되지 않도록 조치하고 있다.
카카오는 포털 다음(Daum)에서 불법촬영물 검색에 악용될 우려가 있는 키워드 956건을 지정해 성인인증 여부와 관계없이 검색 결과를 차단하는 등 선제적 조치를 강화했다.
또 네이버와 카카오는 단순 게시물 차단을 넘어 범죄 예방을 위한 강력한 정책적 장치도 마련했다. 부모 등 법정대리인이 자녀의 이용 시간을 관리하거나 특정 기능을 제한할 수 있는 도구를 제공한다.
카카오는 15년 만의 대개편을 통해 작년 카카오톡에 ‘지금탭’ 등 숏폼 서비스 영역을 신설하면서 청소년을 보호하기 위한 조치를 제공했다. 미성년자 계정의 경우 부모가 숏폼 노출을 차단할 수 있다. 보호자가 본인 인증과 가족관계증명서 제출 후 승인이 나면 자녀 단말의 카카오톡에서 숏폼 노출이 차단된다.
성착취와 그루밍 같은 성범죄 피해를 예방하고 콘텐츠 이용을 감독하기 위해 청소년 대상으로 카카오톡 오픈채팅방 이용도 제한하는 정책을 시행하고 있다. 과거 미성년자 본인의 동의가 필요했지만, 작년 4월부터는 법정대리인의 요청만으로도 청소년의 오픈채팅 이용을 제한할 수 있도록 운영 정책을 변경했다.
이와 함께 카카오는 청소년의 성범죄 노출 위험이 있다고 판단되는 불건전한 오픈채팅방에 대해선 검색 결과 노출을 제한하거나 접근 및 사용 제한도 하고 있다. 일례로 성인과 아동·청소년과의 만남, 대화 목적으로 하는 오픈채팅방, 아동·청소년이 구매할 수 없는 상품·서비스의 대리 구매·결제, 제공 등을 목적으로 하는 오픈채팅방 등이다.
네이버도 ‘연령제한 기능’을 도입해 성 관련 키워드, 미성년자 이용 불가 콘텐츠, 불법·반사회적 검색어 등을 ‘청소년 유해 검색어’로 분류해 자동 차단하고 있다.
네이버 오픈톡에서도 아동·청소년에 대한 성범죄 및 사이버폭력 피해 등을 예방하기 위해 본인의 동의가 있는 보호자의 요청이 있는 경우 이용을 한시적으로 제한하는 미성년자 보호제도를 운영하고 있다.
콘텐츠 측면에서도 성인용 주제가 포함된 치지직 라이브 방송이나 동영상은 반드시 연령 제한을 설정하도록 하고 있다. 네이버웹툰 서비스의 경우 청소년 유해 매체물로 지정된 작품은 본인 인증을 요구하며, AI 기반 필터링 기술인 ‘클린봇’을 사용해 청소년 유해 정보와 관련된 댓글과 대댓글을 차단한다.
IT업계 관계자는 “앞으로 AI 기술이 고도화되고 사회가 더욱 복잡해지면 콘텐츠 유해성에 대한 논란은 더욱 복잡하고 다양한 형태로 나타날 것”이라며 “인터넷 사업자들은 앞으로도 AI 모델을 계속 고도화하고 데이터를 최신화하며, 유해 콘텐츠 감지 영역을 확대해야 한다”고 강조했다.
