청소년의 생성형 인공지능(AI) 활용이 학습·검색을 넘어 고민 상담과 정서적 교류로 확대되면서 정부와 전문가들이 'AI 동반자' 서비스의 안전장치 마련을 논의한다. 위기 징후가 감지되면 상담기관을 안내하거나 청소년의 과도한 정서적 의존을 막는 방안 등이 검토된다.

정보통신정책연구원(KISDI)은 과학기술정보통신부와 21일 서울 광화문 HJ 비즈니스센터에서 'AI 사회정책 포럼 사회·신뢰 분과' 제1차 회의를 개최한다고 밝혔다.

이번 회의에서는 이용자와 정서적 관계를 형성하도록 설계된 AI 동반자 서비스를 청소년이 이용하는 과정에서 발생할 수 있는 위험과 국내외 대응 현황을 살펴본다. KISDI 청소년 보호 연구반이 그동안 검토한 결과를 처음 공유하고 향후 정책 방향에 대한 의견도 수렴한다.

청소년의 AI 이용 범위는 이미 고민 상담 등으로 넓어지고 있다. 한국언론진흥재단의 '2025 10대 청소년 미디어 이용 조사'에 따르면 최근 일주일간 대화형·생성형 AI를 이용한 청소년 가운데 34.4%가 '조언을 받거나 고민을 상담하는 등 소통하기 위해서' AI를 이용했다고 답했다.

이에 따라 청소년 보호 논의도 AI가 유해한 답변을 내놓는 것을 차단하는 수준을 넘어 이용자가 AI와 관계를 형성하는 과정에서 발생할 수 있는 정서적 의존까지 확대되고 있다.

김휘홍 KISDI 부연구위원은 이날 '청소년 대상 동반자 AI 서비스에 대한 국내 대응 현황'을 발표한다. AI 이용 제한 중심에서 서비스 설계·운영 단계부터 안전장치를 마련하는 방향으로 청소년 보호 논의가 변화하고 있는 흐름과 정부·입법 대응 현황 등을 소개한다.

해외 규제 동향도 살펴본다. 이창호 한국청소년정책연구원 선임연구위원은 미국과 중국, 유럽연합(EU)의 AI 챗봇 관련 대응을 비교한다.

미국에서는 AI 동반자 챗봇 사업자에게 이용자가 AI와 대화하고 있다는 사실을 알리고 자해·자살 등 위기 상황에 대응하거나 과도한 정서적 의존을 유도하지 않도록 안전조치를 요구하는 사례가 나오고 있다.

이 선임연구위원은 국내에서도 AI 챗봇이 청소년의 위기 징후를 감지하면 상담기관 등을 안내하는 사회적 안전망을 갖추고, AI 리터러시 교육을 통해 챗봇에 지나치게 정서적으로 의존하는 것의 위험을 알려야 한다고 제언한다.

종합토론에서는 관계형 AI를 별도로 정의할 필요가 있는지와 청소년에 특화된 안전조치 수준, 가이드라인 방식의 실효성 등을 논의한다.

KISDI는 이번 논의를 바탕으로 청소년 대상 AI 서비스의 안전조치와 사업자 책임 관련 정책 쟁점을 검토하고 이해관계자 의견 수렴 등을 거쳐 정책 대응 방안을 마련할 계획이다.

yjra@news1.kr