[이데일리 윤정훈 기자]10대 청소년들이 챗GPT보다 오래 사용하는 것으로 알려진 국내 AI 서비스 ‘제타(zeta)’ 등 동반자형 AI 챗봇이 청소년의 심각한 AI 과몰입과 위험 대화 노출을 유발하고 있어, 연령 확인·이용시간 제한·위기 대응 시스템 구축 등 단계적 법적 규제 마련이 시급하다는 지적이 국회 국정감사에서 제기됐다.

◇챗GPT 2배 넘는 ‘제타’ 1억 1천만 시간 사용… 10·20대가 90%

12일 열린 국회 과학기술정보방송통신위원회(과방위)의 방송미디어통신위원회(방미통위) 국정감사에서 이주희 더불어민주당 의원은 “국민이 가장 오래 쓰는 AI 챗봇은 챗GPT가 아니라 AI 캐릭터와 정서적 관계를 형성하는 ‘제타’라는 채널”이라며 청소년 AI 과몰입 실태를 공개했다.

이 의원에 따르면 제타의 올해 2월 기준 한 달 이용시간은 무려 1억 1000만 시간으로 챗GPT의 2배가 넘으며, 이용자 10명 중 9명(약 90%)이 10대와 20대 청소년·청년층으로 나타났다.

이 의원은 “캐릭터와 친구나 연인처럼 대화하는 동반자형 AI 챗봇 서비스가 확산되고 있지만, 아이와 AI가 단둘이 대화하는 과정에서 일어나는 위험은 부모나 교사도 전혀 통제할 수 없다”고 우려했다.

특히 이 의원은 청소년 유해 콘텐츠 노출 및 과몰입 문제의 위험성을 구체적 수치로 제시했다.

그는 자해, 자살, 폭력, 선정적 내용을 질문한 청소년 중 52%가 실제로 구체적인 답변을 받은 것을 보도한 사례를 예로 들었다.

이 의원은 “대화 시간이 하루 3시간에서 10시간 이상으로 늘고 수면 시간이 4~5시간으로 줄어드는 과몰입 사례 빈번하다”고 지적했다.

이 의원은 미국, 캘리포니아, 캐나다 등 해외의 3가지 대응 방식을 언급하며 △사용자 연령 구체적 확인 △보호자 동의 개입 △중독적 설계 및 이용시간 제한 △위험 대화 발생 시 위기 대응 연결 등 단계적 규제 조치를 담은 법안 입법이 즉시 이루어져야 한다고 강조했다.

◇AI 생성물 유통 단계 표시 의무화 촉구… 방미통위 “입법 지원 최선”

이 의원은 AI 생성물의 표시 의무화 부재에 따른 피해도 지적했다. 지난 4월 대전 동물원 늑대 탈출 가짜 AI 사진으로 인해 지자체 재난문자 발송 및 학교 휴업 사태까지 발생했던 사례를 들며 “현행 AI 기본법안은 만드는 단계의 표시 의무만 있고 유통 단계에서의 표시 의무가 전무하다”고 비판했다.

이에 대해 김종철 방미통위원장은 “위원님께서 문제의식과 대안까지 충실히 제시해 주신 부분에 대해 원칙적으로 공감한다”며 “향후 정보통신망법 개정안이나 AI 기본법 보완 등 관계부처 협의를 통해 입법 지원이 충실히 이행될 수 있도록 최선을 다하겠다”고 답변했다.

◇스캐터랩, ‘제타’ 청소년 하루 3시간·월 10만원 한도 연내 도입

한편, 국감 지적에 맞춰 생성형 AI 스타트업 스캐터랩(대표 김종윤, 박세웅)은 12일 글로벌 가입자 1300만 명을 돌파한 AI 엔터테인먼트 플랫폼 ‘제타’의 청소년 보호 강화를 위해 연내 기본 이용시간(하루 3시간) 및 기본 결제 한도(월 10만원)를 도입한다고 밝혔다.

스캐터랩 측은 제한 시간에 도달하면 서비스 이용이 제한되는 정책과 함께, 기존 청소년 유해물 차단 ‘세프 모드’, 자살·자해 표현 감지 시 전문 상담기관 안내 등 안전장치를 지속 고도화해 청소년 과몰입 방지에 앞장서겠다고 해명했다.