네이버(035420)가 인공지능(AI) 기반으로 각종 사건·사고 발생 시 피해자 및 유족을 조롱하는 악성 댓글 근절에 나선다.

네이버는 29일 악성 댓글 탐지 시스템 'AI 클린봇 3.0'을 적용했다고 밝혔다. 이번에 개선된 시스템은 생명 경시 및 2차 가해 표현 탐지를 집중 강화한 점이 특징이다.

이를 통해 네이버는 △자살, 사망, 신체 훼손 등과 관련해 생명 경시를 조장하는 댓글 △사건, 사고 피해자 및 유족을 향한 조롱, 비하, 혐오성 댓글을 집중 차단한다.

AI 클린봇 3.0은 기사 맥락과 결합해 악성 댓글 탐지 능력을 강화했다.

네이버는 "뉴스 댓글 내용뿐 아니라 기사 제목, 본문을 종합해 악성 댓글을 탐지할 수 있도록 지속적으로 최적화 과정을 거쳤으며, 클린봇은 맥락에 따라 더욱 정확하게 악의적 의도를 탐지하도록 고도화됐다"고 설명했다.

뉴스 기사의 악성 댓글을 통한 2차 가해는 심각한 사회 문제로 자리 잡고 있다. 세월호, 이태원 참사 등 사건·사고가 터진 뒤 희생자나 유가족을 향한 혐오 표현이 놀이처럼 번지는 일이 반복돼 왔다.

네이버 관계자는 "이태원 참사 때도 그렇고 무안공항 제주항공 참사 등 사회적 참사가 발생했을 때 비슷한 일이 반복되면서 유족협단체 분들이 댓글을 통한 2차 가해 문제에 대해 지속해서 의견을 주셨다"며 "그동안 직접적인 욕설이 아닌 조롱성 표현은 AI 필터링을 피해 갈 수 있었는데 2차 가해를 막자는 의견이 모이면서 이번 업그레이드를 진행하게 됐다"고 말했다.

네이버는 2019년 업계 최초로 'AI 클린봇'을 선보인 뒤 급변하는 신조어, 혐오 표현 등에 대응하기 위해 탐지 범위, 정확도를 개선해 왔다.

김수향 네이버 리더는 "네이버는 욕설, 비속어는 물론 새롭게 생긴 혐오, 비하, 차별 표현을 탐지하기 위해 클린봇의 성능을 지속 강화하고 있다"며 "생명 경시 조장, 피해자, 유족 조롱, 혐오 집중 차단을 비롯해 다양한 의견을 청취하며 클린봇 성능을 고도화할 예정이다"고 밝혔다.

Ktiger@news1.kr