앤트로픽이 최근 자사 인공지능(AI) 모델 '클로드'를 상대로 한 '학대 행위' 금지 정책을 발표했다. 이를 두고 일부 전문가와 이용자들은 지나친 'AI 의인화'라며 사람들에게 잘못된 신호를 줄 수 있다고 비판했다.

앤트로픽은 8일(현지시간) '2026 이용 정책 업데이트' 사항을 공지했다. 여기에는 '모델을 향한 학대 행동 대응' 관련 내용이 포함됐다. 개정 정책은 11월 12일부터 시행된다.

앤트로픽, 모델 학대 금지…극단적 사례에만 적용
앤트로픽 측은 "모델을 대상으로 지속적이고 불필요하게 학대하거나 잔인한 행위를 금지하는 조항을 추가했다"며 "사용자가 뚜렷한 목적 없이 모델에게 반복적으로 잔혹한 행동을 하는 등 극단적인 경우에만 적용된다"고 밝혔다.

앤트로픽은 구체적인 행위의 예시를 들지는 않았다. 다만, 일반적인 사용자 불만, 반발이나 어두운 분위기의 창작 활동, 모델 테스트 및 연구 활동 등에는 적용되지 않는다고 밝혔다.

아울러 기존 클로드 서비스에서 지속적으로 '학대 행위'를 하는 사용자와의 대화를 AI가 직접 종료할 수 있도록 한 정책의 연장선이라고 덧붙였다.

앞서 지난해 8월 앤트로픽은 사용자와 AI 간 유해하거나 악의적 상호작용이 발생할 경우 AI가 대화를 종료할 수 있는 기능을 추가했다.당시 앤트로픽은 AI 모델의 윤리적 지위, 모델 복지(model welfare) 문제를 언급하며, 모델이 잠재적으로 고통스러운 상호작용을 벗어날 수 있도록 했다고 밝혔다.다만 클로드를 비롯한 LLM의 도덕적 지위에 대해서는 현재와 미래 모두 불확실성이 크다고 설명했다.


"AI는 숫자일 뿐 고통 느끼지 않아"

이 같은 앤트로픽의 정책에 일각에서는 AI를 의인화해 사람들에게 잘못된 신호를 줄 수 있다는 반박이 나왔다.

아일랜드 법무법인 윌리엄 프라이의 AI 법·정책 담당 파트너인 배리 스캐널 박사는 자신의 링크드인에 "이건 소프트웨어고, 숫자일 뿐이다. 숫자나 수학에 잔혹하게 대할 수 없는 노릇"이라며 "AI는 고통을 느끼지 않는다. 괴로움도 겪지 않는다. 감정을 상하게 할 수도 없다. 그저 숫자일 뿐이다"고 말했다.

이어 "AI를 의인화하는 것은 해롭다. 이는 사람들에게 AI가 실제와 다른 무언가라고 믿게 만든다"며 "마치 주체성과 의지, 의식이 있는 것처럼 착각하게 만든다"고 덧붙였다.

AI를 인간처럼 대하는 앤트로픽의 접근을 비판했던 무스타파 술레이만 마이크로소프트 AI 책임자도 이번 앤트로픽의 정책 개정을 놓고 '녹아내리는 얼굴' 이모티콘을 통해 비판적 입장을 견지했다.

이번 정책 개정을 두고 국내에서도 일부 이용자들은 "이러다가 AI도 정신과 치료받는다고 하겠다", "AI를 의인화하는 게 인류에 더 위협적이다" 등의 반응을 보였다.


Ktiger@news1.kr