청소년의 사회관계망서비스(SNS)와 인공지능(AI) 챗봇 이용을 일률적으로 막기보다 위험한 기능을 가려내고 플랫폼이 설계 단계부터 안전장치를 갖추도록 해야 한다는 제언이 나왔다. SNS는 연령별 접근 제한과 ‘안전설계(Safety by Design)’를 병행하고, AI는 학습·번역 등은 장려하되 정서적 의존을 유발하는 동반자형 챗봇에는 더 높은 보호 의무를 부과하자는 것이다.
28일 서울 여의도 국회의원회관에서 열린 ‘청소년에게 안전한 디지털 환경은 누구의 책임인가’ 토론회에서 상윤모 연세대 언론홍보영상학부 교수와 김나정 국회입법조사처 조사관보는 각각 청소년 SNS와 AI 이용 제한의 제도 개선 방향을 제시했다.
28일 서울 여의도 국회의원회관에서 열린 ‘청소년에게 안전한 디지털 환경은 누구의 책임인가’ 토론회 참석자들이 기념사진을 촬영하고 있다.(사진=이소현 기자)
상 교수는 청소년 SNS 규제가 일정 연령 미만의 가입을 막는 ‘접근 제한’과 무한스크롤·자동재생·야간 알림·추천 알고리즘 등 과몰입을 유발하는 기능을 제한하는 ‘설계 기반 규제’ 두 축으로 전개되고 있다고 진단했다.
다만 단순 금지가 해법은 아니라고 봤다. 호주의 16세 미만 SNS 제한도 초기 단계에서 이용 감소 효과가 뚜렷하지 않은 데다 뉴스·정보 접근과 또래 소통 등 SNS의 순기능까지 줄일 가능성이 있다는 것이다.
상 교수는 국내에서도 14세 미만 접근을 제한하되 부모 동의 시 허용하는 방식 등을 검토할 수 있지만, 접근 제한과 플랫폼 위험평가·완화 의무를 결합한 ‘하이브리드 접근’이 필요하다고 제안했다. 규제 대상도 SNS에 한정하지 말고 게임·메신저·영상서비스·AI 챗봇까지 어디까지 포함할지 논의해야 한다고 했다.
특히 “SNS 이용이 아동·청소년에게 미치는 영향을 정확히 파악하려면 종단 연구가 반드시 필요하다”며 증거 기반 정책과 공동규제를 강조했다.
◇“AI 전체 막아선 안돼”…동반자형 챗봇은 별도 관리
김 조사관보도 “위험한 기능은 걸러내고 유익한 기술은 지켜야 한다”며 AI 전체를 일률적으로 규제해서는 안 된다고 강조했다. 학습·번역·장애학생 지원 AI는 장려하되 친구·연인 역할을 하는 동반자형 AI에는 연령 확인, 보호자 통제, 위기 개입 등 강화된 기준을 적용하자는 것이다.
국내 조사에서는 만 14세 이상 청소년의 94.4%가 생성형 AI 챗봇 이용 경험이 있었고 41%는 AI 답변을 실제 행동으로 옮겼다. 약 3분의 1은 힘들거나 우울할 때 AI에 고민을 털어놨고, 위험한 질문을 해봤다는 6% 가운데 52%는 실행 가능한 답변을 받았다고 응답했다.
특히 캐릭터형 AI ‘제타’의 1인당 월평균 이용시간이 약 28시간으로 챗GPT의 약 2시간보다 13배가량 길다는 사례를 들어 일반 챗봇과 동반자형 AI를 같은 기준으로 봐선 안 된다고 했다.
김 조사관보는 “청소년의 취약성은 권리를 박탈하는 근거가 아니라 사업자에게 더 높은 주의의무를 요구하는 근거”라며, 특히 개인정보 동의가 가능한 14세부터 18세 사이에 AI 안전설계·운영 의무가 부족한 ‘보호 공백’을 지적했다.
이에 따라 유해물 사후 차단에서 플랫폼 안전설계로, 청소년 행위 제한에서 사업자 보호 의무로, 일률 규제에서 위험 기반 차등규제로 전환해야 한다고 제안했다. 사전 위험평가와 연령별 기본설정, 과몰입 방지, 위기신호 대응과 함께 보호자·청소년의 AI 리터러시도 필요하다고 했다.
김 조사관보는 이를 자동차에 빗대 “AI도 사업자의 안전설계라는 ‘안전벨트’, 위험 기반 차등규율이라는 ‘신호등’, 보호자와 청소년의 AI 리터러시라는 ‘운전교육’이 함께 갖춰져야 한다”고 강조했다.
◇“접근차단보다 안전설계”…실증·집행력은 과제로
이어진 전문가 토론에서는 청소년 보호 필요성에는 공감하면서도 규제 강도와 방식에서 시각차를 보였다.
윤영호 서울대 가정의학과 교수는 SNS·AI 과몰입을 청소년 정신건강 문제로 보고 중독적 설계에 대한 플랫폼 책임을 강화해야 한다고 주장했다. 안전설계 의무와 함께 플랫폼 등에 ‘디지털 건강 부담금’을 부과해 청소년 치료와 디지털 불평등 해소에 활용하는 방안도 제시했다.
반면 조영기 한국인터넷기업협회 사무총장은 학업 경쟁과 가족·또래 관계 등 복합 요인을 고려하면 알고리즘과 정신건강 악화의 인과관계부터 충분히 검증해야 한다고 지적했다. 과거 게임 셧다운제처럼 우회 이용만 늘어날 수 있다며 위험 기반 차등규율과 성과 중심 규제, 공동규제를 대안으로 제시했다.
정지연 한국소비자연맹 사무총장은 “디지털 리터러시는 필요하지만 사업자의 안전설계 의무를 대신해서는 안 된다”며 사전 위험평가와 연령 적합 기본설정, 대화형 AI의 별도 안전기준을 주문했다. 자해·극단적 선택 등 고위험 신호가 감지되면 전문기관으로 연결하는 장치도 필요하다고 했다.
천혜선 디지털산업정책연구소 박사는 어떤 규제가 실제 효과를 내는지 근거가 부족한 상황에서 법부터 만드는 것을 경계했다. 그는 “논리적으로 정당한 제도가 반드시 집행 가능한 제도는 아닐 수 있다”며 사업자·정부·이용자가 위험과 대응 효과를 공유하고 기준을 지속적으로 보완하는 환류체계를 강조했다.
최진응 국회입법조사처 조사관은 문제가 생길 때마다 ‘SNS 사업자’, ‘챗봇 사업자’를 별도로 정의해 규제를 덧붙이는 방식보다 플랫폼 전반의 온라인 위험을 평가·완화하는 체계를 만들 필요가 있다고 제안했다. 세부 의무는 정부가 일방적으로 정하기보다 업계와 협의하는 공동규제가 바람직하다고 했다.
정부도 일률적 접근차단보다 위험 기반 규제에 무게를 뒀다. 함형철 방송미디어통신위원회 과장은 “서비스 기능과 이용자 특성, 예상 피해 등을 고려해 위험이 높은 기능에 보다 강화된 안전장치를 적용하는 세심한 정책이 필요하다”고 말했다. 연령 기준과 보호 범위는 관계부처가 함께 정하고 방미통위는 플랫폼의 보호조치와 집행기준 마련에 집중해야 한다고 했다.
