"앤트로픽은 미 국방부와 차이점보다 공통점이 훨씬 많다." 인공지능(AI) 윤리를 앞세우며 이란 공습에 자사 AI가 사용된 데 반발한 앤트로픽이 무릎을 꿇었다. 미 행정부의 제재가 이어지자 앤트로픽의 최고경영자(CEO)가 직접 사과 입장을 밝혔다. 이를 두고 업계 일각에서는 국가와 전쟁 앞에 'AI 가드레일'이 무너졌다며 우려를 나타냈다.

11일 주요 외신과 앤트로픽에 따르면 다리오 아모데이 앤트로픽 CEO는 지난 5일(현지시간) 자신이 도널드 트럼프 대통령과 국방부를 비판한 것을 놓고 공식 사과했다.

앞서 아모데이 CEO는내부 메모를 통해 "트럼프 행정부가 대통령에게 '독재자식 찬사'를 보내지 않고 정부의 AI 정책에 반대했다는 이유로 보복하고 있다"고 주장한 사실이 유출되면서 논란이 됐다.

해당 메모에는 국방부와 계약을 체결한 오픈AI를 향한 비판도 담겨 있었다.

아모데이 CEO는 "모든 미연방 시스템에서 앤트로픽이 제거될 거라는 트럼프 대통령의 언급, 행정부의 공급망 위험 기업 지정, 오픈AI와 미 국방부의 계약 발표로 회사가 힘든 와중에 작성된 감정 섞인 어조였다"고 사과했다.

이어 "앤트로픽은 국방부와 국가 안보 기관이 필요로 하면 AI 모델과 엔지니어 지원을 최소한의 비용으로 지속해서 제공할 것"이라며 "앤트로픽은 국방부와 차이점보다 공통점이 훨씬 많다"고 덧붙였다.

이와 함께 앤트로픽은 트럼프 행정부로부터 공급망 위험 기업으로 지정된 데 대해 법적 소송을 제기하겠다고 밝혔다.

그러나 앤트로픽이 그간 AI 안전과 윤리를 앞세우며 '책임감 있는 확장 정책'(RSP, Responsible Scaling Policy)을 지속해서 발표해 온 점에 비춰봤을 때 원칙을 허문 조치라는 평가가 나온다.

앤트로픽은 미 국방부의 일방적인 AI 사용에 반대하면서 이용자들의 호응을 얻었다. 특히 오픈AI가 앤트로픽 퇴출 직후 국방부와 계약을 맺으면서 양사의 대조적인 행보가 더욱 부각됐다.

앤트로픽의 클로드는 이용자 수가 급증하면서 한 때 일시적 접속 오류가 발생하기도 했다. 지난달 28일 미국 애플 앱스토어 무료 앱 순위에서도 1위를 차지했다. 반면, 오픈AI의 챗GPT는 미 국방부 계약 소식이 알려진 후 하루 만에 앱 삭제율이 295% 급증했다.

김명주 서울여대 정보보호학과 교수 겸 인공지능안전연구소 연구소장은 "윤리라는 게 전쟁 앞에서는 힘을 많이 못 쓰는 게 사실"이라며 "원래 윤리를 강조하던 기업도 국방이나 생존 문제로 가면 결국 타협하는 게 일반적인 모습이다"고 말했다.

이어 "국가적 압박에 원칙을 지키기 힘들기 때문에 국제적 합의가 중요하다. AI 윤리에 대한 지속적인 논의가 필요하다"고 강조했다.

이와 관련해 앤트로픽은 지난 2월 말 발표한 '책임감 있는 확장 정책 3.0'(RSP 3.0)을 통해 "국가에 의한 AI 모델 오용에 대한 견고한 대응책 확보를 앤트로픽이 혼자 달성하기 어렵다는 점을 인지했다"며 "한 기업이 혼자 이루기 힘든 안전장치를 전 세계 정부와 협력해 구현하길 바랐다"며 자사 AI 정책의 한계를 밝힌 바 있다.

한편 미국은 이란 공습 과정에서앤트로픽의 AI 모델인 '클로드'를 활용했다. 클로드는 정보 평가, 목표물 식별, 전장 시뮬레이션 수행 등에 이용된 것으로 전해졌다. 이처럼 전쟁 양상이 달라짐에 따라 AI 윤리 문제에 대한 지적과 함께 인간이 전쟁 과정에서 버튼만 누르는 역할을 할 수 있다는 우려도 나오고 있다.

Ktiger@news1.kr