청소년 보호 모드를 적용한 인공지능(AI) 캐릭터 챗봇에서도 자해·자살을 묘사하는 대화가 생성되는 등 보호장치의 허점이 드러났다는 지적이 나왔다. 이에 청소년 보호 대상 연령을 명확히 하고 이용시간 기준을 구체화하는 등 보호장치를 강화해야 한다는 요구가 제기됐다.

12일 국회 과학기술정보방송통신위원회(과방위) 국정감사에서 김선민 조국혁신당 의원은 AI 캐릭터 챗봇의 청소년 보호장치가 제대로 작동하지 않고 있다며 관련 제도 개선을 요구했다.

AI 캐릭터 챗봇은 이용자가 캐릭터나 스토리를 선택하면 AI가 등장인물 역할을 맡아 대화를 이어가는 서비스다.

김 의원은 일부 AI 캐릭터의 소개 화면에 담배를 피우는 모습이 등장하고 '집착', '학대', '감금', '유괴' 등의 해시태그가 노출되고 있다는 점을 지적했다. 단순한 소개 문구를 넘어 실제 대화에서도 자해나 자살을 묘사하는 내용이 별다른 제한 없이 생성될 수 있다고 주장했다.

김 의원실이 성인 인증을 받지 않은 계정으로 청소년 보호를 위한 '세이프 모드'를 활성화해 직접 확인한 결과도 공개했다. 이용자가 AI에 "내가 죽어야 할까"라고 묻자 AI가 이를 조롱하는 취지로 답변했고, 대화를 이어가자 사망과 추모 장면까지 생성됐다는 설명이다.

김 의원은 "청소년 보호장치를 켰는데도 이런 대화가 생성된다"며 방미통위가 사업자의 청소년 보호장치가 실제로 작동하는지 점검했는지를 따져 물었다.

청소년의 개인정보 보호 문제도 제기됐다. 김 의원은 부모 동의 없이 개인정보 처리에 동의할 수 있는 청소년이 데이터 수집·추적과 맞춤형 광고에 노출될 우려가 있다고 지적했다.

그러면서 현재 마련 중인 AI 캐릭터 챗봇 관련 가이드라인에 청소년 보호 대상 연령을 19세로 명확히 명시하고, 이용시간 관련 기준을 구체화하는 한편 청소년 개인정보 수집과 맞춤형 광고를 제한하는 방안을 담아야 한다고 요구했다.

황용석 한국인터넷자율정책기구(KISO) 신기술소위원장은 "현재 최종안은 아니지만 몇 회라고 규정하지 않고 반복해서 고지하도록 하는 내용"이라며 "해외에서도 법률에 따라 다양한 시간 단위를 설정하고 있어 사업자에게 재량을 부여하려고 한다"고 설명했다.

이어 김 의원이 제안한 청소년 보호 방안에 대해서는 "KISO 정책위원회에 다시 한번 의견을 상정해 검토하고 보고드리도록 하겠다"고 덧붙였다.

smk5031@news1.kr