오픈AI는 18세 미만 청소년에게 학습 지원과 안전 기능을 기본 적용하는 ‘청소년을 위한 챗GPT’를 출시한다고 19일 밝혔다.
부모가 이용 제한 시간과 일부 설정을 관리할 수 있는 기능 (사진=오픈AI)
핵심은 챗GPT를 과제의 정답을 바로 얻는 도구보다 학습 과정을 돕는 도구로 활용하도록 유도하는 것이다. 청소년이 문제의 답을 바로 요청할 경우 단계별 풀이와 안내 질문을 제공하는 ‘학습 모드’ 활용을 유도한다. 학습 모드는 문제를 단계별로 풀도록 돕고 이용자의 이해도를 확인하거나 연습 문제·퀴즈를 생성할 수 있다.
과제를 건너뛰려는 이용자를 문제 풀이 과정으로 유도하는 알림과 퀴즈, 학습 시각화 기능도 제공한다. 새로 도입되는 ‘학습 시간’을 설정하면 청소년이나 부모가 정한 시간대에 학습 모드가 기본으로 작동하도록 할 수 있다.
학습 모드는 교사와 학습과학·교육학 전문가들의 의견을 반영해 설계됐다. 오픈AI는 AI가 정답만 제공하기보다 질문과 단계별 설명을 통해 학생이 스스로 사고하도록 돕는 방향으로 학습 기능을 개발하고 있다.
청소년에게 노출되는 콘텐츠에 대한 안전장치도 강화한다. 자해와 폭력, 위험 행동, 섭식장애, 노골적인 성적·폭력적 콘텐츠 등 청소년에게 부적절할 수 있는 영역에서는 보다 강한 보호 기준을 적용한다. 청소년용 계정에는 민감한 콘텐츠를 줄이는 기능도 기본 적용된다.
챗GPT가 청소년의 실제 인간관계를 대체하지 않도록 하는 장치도 포함됐다. 오픈AI는 청소년에게 챗GPT가 연애 감정을 표현하거나 정서적 의존을 유도하지 않고, AI가 감정이나 의식을 가진 존재인 것처럼 표현하지 않도록 관련 모델 행동 기준을 적용하고 있다.
오랜 시간 챗GPT를 이용할 경우 휴식을 권하는 알림도 제공한다. 오픈AI는 청소년이 AI를 학습과 창작 등에 활용하되 현실의 인간관계를 대신하는 존재로 받아들이지 않도록 하는 것을 청소년 안전 정책의 주요 원칙으로 삼고 있다.
부모가 청소년의 챗GPT 사용 환경을 관리할 수도 있다. 계정을 연결하면 부모는 특정 시간에 챗GPT를 사용할 수 없도록 ‘이용 제한 시간’을 설정하고 음성·이미지 생성·메모리 등 일부 기능을 조정할 수 있다.
다만 부모가 청소년의 대화 내용을 직접 열람하는 기능은 제공하지 않는다. 제한적인 고위험 상황에서는 부모에게 안전 알림을 보낼 수 있다.
이처럼 오픈AI가 청소년 대상 안전장치를 대폭 강화한 배경에는 기업공개(IPO)를 앞두고 커지고 있는 법적·사회적 리스크를 줄이려는 판단도 깔린 것으로 풀이된다.
최근 챗GPT를 이용한 청소년의 자해·극단적 선택이나 범죄 모의 사례가 잇따라 알려지면서 오픈AI는 관련 소송에 직면해 있다. 청소년의 AI 이용에 대한 책임론이 커지는 만큼 이번 기능은 안전성 논란에 선제적으로 대응하려는 성격도 있다는 분석이다.
