[이데일리 방보경 기자] 생성형 인공지능(AI)이 빠르게 확산되면서 딥페이크 성범죄와 여성혐오 표현 등 새로운 형태의 젠더폭력이 늘어나고 있다. 이에 인공지능을 개발하는 단계부터 관련 위험을 미리 점검할 수 있는 안전성 평가 기준을 마련해야 한다는 제언이 나왔다.

한국여성정책연구원은 ‘디지털 기반 젠더폭력 방지를 위한 AI 벤치마크 데이터셋 필요성 연구’ 보고서를 통해 인공지능 기술이 초래할 수 있는 젠더폭력 위험을 예방하기 위한 정책방안을 제시했다고 23일 밝혔다.

연구에 따르면 우리나라는 인공지능 규제와 윤리 기준을 마련했지만 실제 대응은 피해 콘텐츠 삭제와 차단 등 사후 조치에 머물고 있는 것으로 나타났다. 이에 따라 인공지능 개발과 평가 단계부터 젠더폭력 위험을 점검할 수 있는 기준 마련이 필요한 것으로 나타났다.

또 규제와 윤리 기준에는 인간 존엄과 차별 금지, 다양성 보장 등이 담겨 있지만 실제 구속력이 약하고 사업자의 자율적인 노력에 의존하고 있어 젠더폭력 예방과 차별 방지 효과도 낮은 것으로 나타났다.

김애라 연구위원은 “인공지능 개발과 안전성 평가 단계에서부터 젠더폭력 위험을 체계적으로 검토하고 차단하는 성인지적 인공지능 설계가 필요하다”고 말했다.

연구진은 핵심 과제로 △한국어 젠더폭력 방지 벤치마크 데이터셋 구축과 대규모 언어모델(LLM) 안전성 평가 지표 개발 △과학기술정보통신부와 인공지능안전연구소 등 관계기관 간 역할 분담 및 민관 협력 체계 마련 △기존 자율 안전성 평가 체계와의 연계 및 공공 부문 우선 활용 △벤치마크 활용 의무화를 위한 중장기 입법 과제 검토 △지속적인 모니터링과 환류 체계 구축 등을 제안했다.

김종숙 원장은 “인공지능 기술이 디지털 성범죄를 확산시키는 도구로 활용되지 않도록 사전에 위험을 점검하고 대응할 수 있는 안전 기준을 구체화해야 한다”고 밝혔다.