[이데일리 김겨레 기자] 구글의 안전 담당 조직을 만든 전직 임원이 청소년들에게 소셜미디어(SNS)보다 인공지능(AI)이 더 유해하다며 개발 속도를 늦춰야 한다고 촉구했다. 안전 장치 없이 AI 개발 경쟁을 이어갈 경우 최근 SNS 업계가 겪고 있는 대규모 소송에 휘말릴 수 있다는 경고다.

구글에서 신뢰·안전 담당 부사장을 지낸 톰 시겔은 22일(현지시간) 로이터통신과의 인터뷰에서 “AI가 어린이들에게 미치는 영향과 관련해 우리는 매우 심각한 상황에 놓여 있다”며 “외부의 도움 없이 업계가 스스로 문제를 해결할 것이라는 생각은 비현실적”이라고 말했다.

시겔 전 부사장은 기술업계가 소셜미디어 기업들과 같은 실수를 반복하고 있다고 지적했다. 소셜미디어 기업들은 최근 미성년 이용자의 중독과 정신건강 악화 등을 초래했다는 주장으로 수천건의 소송에 직면했고 막대한 합의금을 지급하고 있다. 각국 정부도 어린이와 청소년의 소셜미디어 이용을 제한하는 규제를 잇따라 추진하고 있다.

AI와 관련한 피해가 더 커질 수 있다는 게 시겔의 주장이다. 수백만명의 청소년이 이미 매일 AI 챗봇을 사용하는 상황에서 기업들이 갈수록 고도화된 기능을 빠르게 도입하고 있지만 연령 확인이나 유해 대화 차단 등 안전장치는 이에 미치지 못하고 있다는 것이다.

시겔 전 부사장은 AI가 청소년에게 초래할 수 있는 위험으로 자살과 정신 질환뿐 아니라 ‘인지적 오프로딩’도 꼽았다. 인지적 오프로딩이란 질문과 판단을 AI에 지속적으로 의존하면서 스스로 사고하고 판단하는 능력이 약화되는 현상을 의미한다.

시겔은 오픈AI와 앤스로픽 등이 더욱 강력한 연령 확인 절차를 도입해 연령 기준에 미달하는 어린이의 AI 챗봇 접근을 제한할 수 있다고 주장했다. 구글에 대해서도 검색 서비스의 ‘AI 오버뷰’와 ‘AI 모드’를 이용자가 끌 수 있도록 해야 한다고 제안했다.

시겔 전 부사장은 “이러한 조치가 단기적으로 이용자 수나 수익에 영향을 줄 수 있지만, 기업들이 선제적으로 대응하지 않으면 향후 소송과 규제로 더 큰 비용을 부담할 수 있다”고 경고했다.

구글은 “부모가 자녀의 검색엔진 접근을 차단할 수 있는 관리 기능을 제공하고 있다며 AI 검색 기능이 어린이와 청소년의 학습과 정보 탐색에 유용하다”고 반박했다. 오픈AI도 “이용자가 입력한 나이뿐 아니라 계정과 행동 데이터를 활용해 미성년 이용자를 식별하고 있으며 관련 안전장치를 지속적으로 개선하고 있다”고 밝혔다.

시겔 전 부사장은 최근 어린이 온라인 안전단체인 커먼센스미디어가 설립한 ‘청소년 AI 안전연구소’의 초대 전무이사로 합류했다. 이 연구소는 앤스로픽과 오픈AI재단 등의 지원을 받고 있다.

시겔 전 부사장은 “일반에 공개된 AI 서비스의 위험 수준을 평가할 수 있는 독립적인 기준을 만들것”이라며 “AI 기업 및 제 3자 기관과 협력하기를 희망한다”고 밝혔다. 자동차 충돌시험처럼 AI 도구의 안전성을 외부에서 객관적으로 평가하고 기업에 책임을 물을 수 있는 체계를 구축하겠다는 구상이다.