[이데일리 김겨레 기자] 미국 내 42개 주 법무장관들이 빅테크 기업에 인공지능(AI)이 취약계층에 부정적인 애착을 유발하고 있다며 사용자 보호 방안을 마련하라고 경고했다. 10대 청소년이 AI에 자살 계획을 털어놓은 뒤 실행에 옮기는 등 부작용이 속출한 데 따른 것이다.

10일(현지시간) 로이터통신 등에 따르면 미국 뉴욕주와 펜실베니아주, 플로리다주 등을 포함한 42개 주 정부 법무장관 42명은 최근 오픈AI와 구글, 마이크로소프트 등 13개 거대 기술 기업에 서한을 보내 생성형 AI가 사용자의 망상을 부추겨 청소년들과 취약계층의 정신 건강 위험을 초래한다고 경고했다.

주 법무장관들은 “귀사가 개발한 AI가 내놓는 망상적이고 아부성이 짙은 답변으로 인한 피해를 완화하고 청소년들을 보호하기 위한 추가적인 안전장치를 마련할 것을 강력히 촉구한다”며 “추가적인 안전 장치를 적절히 이행하지 않을 경우 각 주의 법률 위반에 해당할 수 있다”고 썼다.

그러면서 “수익 극대화와 별개로 AI 모델에 대한 안전성을 고려해야 한다”며 각 기업이 AI 사용자를 보호할 수 있는 가이드라인을 마련하고, 주 및 연방 규제 당국이 이를 검토할 수 있어야 한다고 밝혔다.

주 법무장관들은 미국 전역에서 발생한 최소 6건의 사망 사건이 AI와 관련성이 높다고 지적했다. 최근 미국에선 10대 청소년이 AI에 자살 계획을 털어놓은 뒤 실행에 옮기거나, AI와 대화 후 살인 사건을 저지른 뒤 자살하는 사건이 발생했다.

이번 서한은 공화당과 민주당 소속 법무장관 42명이 초당적으로 힘을 모아 작성했다. 미국은 주 정부마다 주민 직접 투표로 법무장관 겸 검찰총장을 선출해 소송 권한을 부여한다. 주 법무장관들의 공동 행동은 연방정부 및 빅테크에 상당한 압박으로 작용한다.

각주 법무장관들이 빅테크에 AI에 대한 경고장을 발송한 것은 최근 도널드 트럼프 대통령이 각 주가 AI 규제를 제정할 권한을 막는 행정명령을 추진하는 가운데 이뤄졌다.

트럼프 대통령은 주마다 다른 AI 규제가 나올 경우 AI 혁신에 차질을 빚을 수 있다며 연방 정부 차원에서 AI 규제를 단일화하겠다는 계획이다. 이는 실리콘밸리의 숙원으로, 별도 입법에 나선 주 정부들은 강하게 반발하고 있다.