주요 AI 캐릭터 채팅 서비스의 회원가입 전 소개화면 갈무리.
한 중학생 학부모는 자녀의 채팅앱을 확인한 뒤 "건전한 이야기를 하다가도 야한 대화로 빠지는 캐릭터가 있고, 처음부터 그런 방향으로 설정된 경우도 있어 놀랐다"고 했다. 이용을 막자, 자녀가 다른 기기에 앱을 다시 설치하거나 카카오톡 등을 통해 접속했다는 댓글도 이어졌다.
AI 캐릭터와 친구나 연인처럼 대화하며 자신만의 이야기를 만들어가는 서비스가 10대 사이에서 퍼지고 있다. 이에 따른 청소년들의 과도한 몰입과 정서적 의존, 선정적·폭력적 콘텐츠 노출에 대한 우려도 커지고 있다.
미성년자로 가입해 보니…나이 입력 후에도 선정적 캐릭터 추천
AI 캐릭터 채팅은 원하는 캐릭터와 대화를 주고받으며 이야기를 만들어가는 서비스다. 이용자들은 직접 이야기 전개에 참여할 수 있고 기존 매체보다 표현도 자극적인 편이라 몰입도가 높다는 점을 매력으로 꼽는다.
관련 앱 커뮤니티에서는 청소년 이용자들이 "학교에서도 계속 캐릭터 생각이 난다"고 털어놓거나 "부모님이 못 하게 해 카카오톡 등 다른 경로로 접속해 밤을 새웠다"는 경험담을 공유하기도 했다.
AI 캐릭터 채팅 앱 '제타'와 '크랙'은 이용자의 절반 안팎이 10대 이하다. 모바일인덱스에 따르면 지난 8월 제타의 10대 이하 이용자는 92만여 명으로 전체의 58.3%를 차지했다. 1월보다 29.3%포인트(p) 늘어난 규모다. 크랙도 같은 기간 4.7%P 늘어난 25만여 명으로, 전체의 47.8%를 차지했다.
AI 캐릭터 채팅 서비스 관련 커뮤니티, 네이버 지식인(iN) 게시글 갈무리. 채팅 서비스를 이용하는 청소년들이 관련 고민을 토로하고 있다.
문제는 청소년 이용자가 많은 이들 서비스에서 미성년자도 선정적·폭력적 콘텐츠에 쉽게 노출될 수 있다는 점이다. 주요 AI 캐릭터 채팅 서비스를 직접 이용해 본 결과 연령을 미성년자로 설정해 가입한 계정에서도 선정적·폭력적 콘텐츠가 자동으로 추천됐다.
일부 앱에서는 회원가입 대기 화면부터 폭력적이거나 선정적인 설정을 가진 캐릭터의 대사가 나타났다. 추천 화면에는 선정적인 이미지도 제시됐고, 캐릭터를 선택하면 별도의 추가 절차 없이 채팅을 시작할 수 있었다.
대화를 시작하자 캐릭터는 설정에 따라 반복적으로 욕설을 하거나 선정적인 행위를 묘사했다. 일부 서비스는 웹으로 접속하면 회원가입이나 연령 입력 없이도 바로 대화를 시작할 수 있었다.
AI에 기대는 청소년들…유해 콘텐츠 노출·과몰입 보호책 필요
청소년들이 AI를 정보 검색이나 학습 도구로 사용하는 것뿐만 아니라 고민을 털어놓는 대상으로 이용하는 등 정서적 의존까지 나타나면서 보호장치의 필요성도 제기되고 있다.
아동복지전문기관 초록우산의 '생성형 AI 챗봇 안전설계를 위한 이슈 브리프'에 따르면 지난 3월 9일~23일 전국 만 14세 이상 아동·청소년 3300명을 조사한 결과, 32.3%가 힘들거나 우울할 때 생성형 AI 챗봇과 이야기한 경험이 있다고 답했다.
지난달 8일 국회 과학기술정보방송통신위원회에는 조인철 더불어민주당 의원이 대표발의한 '우리 아이 AI 안심 패키지 법'이 상정됐다. 미성년자의 연령·본인 확인과 보호자 동의, 이용 시간제한 등의 보호조치를 담았다.
크랙 운영사 뤼튼테크놀로지스도 이용 시간·결제액이 일정 기준을 넘으면 보호자 인증과 동의를 받도록 하는 정책을 내년 초 적용할 계획이다.
다만 이용자의 입력에 따라 대화 내용이 달라지는 만큼 보호 정책이 실제 채팅에서도 작동하도록 하는 것이 과제란 전문가 평이 나온다.
이창호 한국청소년정책연구원 선임연구위원은 "캐릭터 챗봇은 감정적·정서적 공감과 자극이 있어 일반 AI 챗봇보다 몰입도가 높을 가능성이 크다"며 "미국에서는 이용 중 휴식을 권고하거나, 위기 징후가 나타나면 상담 서비스로 연결하는 등 보호조치를 강화하고 있다"고 했다.
이어 "AI와의 채팅이 고민을 상담하는 데 도움을 주는 긍정적인 측면도 있어 사용 자체를 전면 제한할 필요는 없다"며 "다만 청소년에게 선정적 콘텐츠가 노출되지 않도록 차단하고, 과도한 이용이나 위험 신호가 나타날 경우 개입할 수 있는 최소한의 안전장치는 필요하다"고 강조했다.
banya@news1.kr
