특히 스캐터랩은 제타의 주요 AI 개발 인력 절반을 콘텐츠 및 대화 모더레이션(조정·검수) AI 모델 개발에 투입하기로 했다. 자체 대규모 언어모델(LLM)을 개발·운영하며 쌓은 기술력을 바탕으로 올해 말까지 플롯과 플레이 모더레이션을 고도화해 자체 이용 등급을 명확히 분류하고, 연령별 보호 체계를 정비할 방침이다.
우선 콘텐츠 기획 단계인 ‘플롯’ 검수는 △크리에이터 제작 과정 △출시 시점 △서비스 내 노출 시점 등 총 3단계로 세분화해 진행한다. 각 단계에서 소재와 텍스트·이미지를 검수해 이용 등급을 분류하며, 이를 위해 한국·일본·미국 등 주요 서비스 국가별 AI 콘텐츠 정책과 검수 기준을 선제적으로 마련한다. 연령 확인 절차 역시 강화해 가입 초기부터 확인된 연령에 적합한 플롯만 접근할 수 있도록 제한한다.
실제 AI와 대화를 나누는 ‘플레이’ 과정의 안전장치도 대폭 확충한다. 부적절한 대화를 차단하는 자체 AI 모델을 출시하는 한편, 이용자 연령에 맞는 발화 기준을 수립해 AI 모델이 이에 맞춰 응답하도록 고도화할 예정이다.
이용자 보호를 위한 물리적·시스템적 한도 설정도 연내 국내에 도입된다. 구체적으로 △청소년 일일 이용 시간 3시간 제한 △기본 결제 한도 월 10만원 제한 △AI와의 상호작용임을 알리는 주기적 안내 기능 등이 적용된다. 자살·자해 등 민감 콘텐츠가 감지될 경우 정해진 기준에 따라 적절한 도움 안내를 제공하는 기능도 구현·검증한다.
이와 함께 신고·이의제기와 정기 표본 검수에서 발견된 문제점을 정책과 모델에 즉각 반영해 재검증하는 순환형 개선 체계를 구축하고, IP 및 청소년 보호를 위해 규제 당국과 앱스토어, 콘텐츠 업계 등 주요 이해관계자와의 협력도 이어갈 계획이다.
이번 조치는 최근 규제 당국이 AI 채팅 서비스의 선정성 및 청소년 보호 미흡 사례를 지적하며 규제 압박 수위를 높이고 있는 흐름과도 맞닿아 있다.
앞서 방송미디어통신심의위원회(방미심위)는 이달 초 스캐터랩과 뤼튼테크놀로지스 등 30여 개 주요 AI 채팅 사업자에 청소년유해매체물 지정 사전 통지 공문을 발송하고, 실효성 있는 본인확인 수단 적용 및 유해정보 생성 방지를 골자로 한 ‘AI 채팅 서비스 청소년 보호를 위한 사업자 가이드라인’을 배포한 바 있다. 방미심위는 조만간 업체별 의견을 수렴한 뒤 유해매체물 지정 여부를 최종 심의할 예정이다.
김종윤 스캐터랩 대표는 “제타는 이용자가 이야기의 주인공이 돼 AI와 함께 자신만의 서사를 만들어 가는 서비스인 만큼 창작의 즐거움과 이용자의 안전을 함께 고려해야 한다”며 “트러스트&세이프티 팀을 중심으로 정책·기술·운영을 아우르는 보호 체계를 고도화해 안심하고 사용할 수 있는 AI 엔터테인먼트 환경을 만들어 가겠다”고 말했다.









