청소년 사이에서 인공지능(AI) 캐릭터와 친구·연인처럼 대화하는 '동반자형 AI 챗봇' 이용이 늘면서 유해 대화와 과몰입을 막기 위한 안전장치를 마련해야 한다는 지적이 나왔다. AI로 만든 이미지·영상 등이 실제 콘텐츠처럼 유통되는 것을 막기 위해 생성물 표시 의무를 유통 단계까지 확대해야 한다는 요구도 제기됐다.

12일 국회 과학기술정보방송통신위원회(과방위) 국정감사에서 이주희 더불어민주당 의원은 김종철 방송미디어통신위원회(방미통위) 위원장에게 청소년의 동반자형 AI 챗봇 이용에 따른 위험성을 지적하며 제도 개선을 요구했다.

동반자형 AI 챗봇은 이용자가 AI 캐릭터와 친구나 연인처럼 대화하며 정서적 관계를 형성할 수 있도록 설계된 서비스다. 이 의원은 '제타'를 비롯한 AI 캐릭터 챗봇이 10·20대를 중심으로 빠르게 확산하고 있다고 설명했다.

이 의원은 특히 청소년이 AI 챗봇에 자해·자살이나 폭력, 선정적인 내용 등을 질문했을 때 구체적인 답변을 받을 수 있다는 점을 문제 삼았다. 이 같은 대화가 부모나 교사가 확인하기 어려운 일대일 환경에서 이뤄지는 만큼 청소년 보호를 위한 별도의 안전장치가 필요하다는 지적이다.


장시간 이용에 따른 과몰입 문제도 제기했다. 이 의원은 AI 챗봇 이용 시간이 크게 늘면서 수면시간이 줄어든 사례 등을 언급하며 "청소년의 AI 과몰입을 막을 대책이 필요하다"고 말했다.

이 의원은 해외에서 시행·논의되고 있는 규제를 사례로 들었다. 미성년자의 특정 AI 챗봇 이용을 제한하거나 자살·자해 등 위험 신호가 감지되면 상담기관으로 연결하는 방식, AI가 의사나 상담사 등 전문가가 아니라는 사실을 사전에 고지하는 방안 등이다.

과몰입 방지를 위해 일정 시간마다 휴식을 안내하고 자동재생·연속접속·보상형 푸시알림 등 이용을 지속적으로 유도하는 기능을 제한하거나 미성년자의 로맨틱 동반자형 AI 이용을 제한하는 방안도 소개했다.

AI 생성물의 표시 의무를 강화해야 한다는 지적도 나왔다.

이 의원은 지난 4월 대전의 한 동물원에서 늑대가 탈출했을 당시 실제 사진처럼 확산한 AI 생성 이미지를 사례로 제시했다. 해당 이미지가 실제 상황을 담은 것처럼 받아들여지면서 관계기관의 대응에도 혼선을 일으켰다는 설명이다.

이 의원은 현행 제도는 AI 생성물을 만드는 단계에서 표시 의무를 두고 있지만 이후 온라인 등을 통해 콘텐츠가 유통되는 단계에서는 표시 의무가 미흡하다고 지적했다. AI 생성물이 재유통되는 과정에서도 이용자가 AI로 만들어진 콘텐츠라는 점을 쉽게 알아볼 수 있도록 제도를 보완해야 한다는 주장이다.

특히 단순히 AI 생성물이라는 표시를 넣는 것만으로는 부족한 만큼 이용자가 쉽게 인식할 수 있는 표시 방식과 구체적인 가이드라인을 마련해야 한다고 요구했다.

김 위원장은 "문제의식과 대안까지 충실히 제시해 주신 부분에 대해 원칙적으로 공감하고 있다"며 "새로운 정보통신망법 개정안이든 AI 기본법에 대한 보완이든 관계부처 협의를 통해 충실히 이행될 수 있도록 최선을 다하겠다"고 답했다.

smk5031@news1.kr