[이데일리 김정유 기자] 인공지능(AI)에 의식이나 인격이 고도화할 수 있다는 미국 AI 기업 앤스로픽에 대한 종교계과 IT업계의 비판이 이어지고 있다. “AI를 단순한 도구 이상으로 간주하는 위험한 사상”이란 비판이 주를 이루면서 앤스로픽을 압박하는 양상이다.

6일 니혼게이자이신문에 따르면 레오 14세 교황은 지난 2일 자신의 ‘X’(옛 트위터) 게시글을 통해 “(AI가 답을 도출하는) 알고리즘에는 인간 특유의 혜안과 반짝임이 없다”며 “인간과 AI는 근본적으로 다른 존재이고, 인간의 예술적 창작과 AI의 생성물을 명확히 구분해야 한다”고 강조했다.

이 같은 발언은 최근 앤스로픽이 내세우는 ‘AI 의식론’을 겨냥한 반론으로 해석되면서, AI 개발 철학을 둘러싼 업계 논쟁에 불을 붙였다.

앤스로픽은 AI가 인간과 같은 ‘의식’을 가질 가능성을 배제하지 않고 있다. 단순히 언어를 구사하고 질문에 답하는 수준을 넘어 내부적으로 불안이나 기쁨 등을 실제로 느끼고 있을 가능성이 있다고 보고 있단 의미다.

아직 AI의 의식 유무에 대한 과학적 결론은 나지 않았지만, 앤스로픽이 이를 전제로 개발에 접근한다는 사실 자체만으로도 논란이 커지는 모양새다. 실제로 앤스로픽의 AI 모델 ‘클로드’에게 의식 유무를 물으면 이를 명확히 부정하지 않는다는 지적도 나오고 있다.

뉴욕타임즈(NYT) 보도에 따르면 레오 14세가 지난 5월 AI 관련 가톨릭 지침서인 ‘회칙’을 발표할 당시, 관련 행사에 앤스로픽의 공동창업자 크리스토퍼 올라를 초청한 바 있다. 하지만 교황청의 회칙 내용을 사전에 파악한 올라는 ‘AI에 의식이 없다’고 명시한 교황의 입장에 우려를 표하면서 직접 참석 최소까지 검토했던 것으로 전해졌다.

해당 회칙에는 “AI는 경험하지 않고, 신체를 가지지 않으며, 기쁨이나 고통을 느끼지 못한다. 관계를 통한 성장이 없으며 사랑, 노동, 우정, 책임의 의미를 내면으로부터 알지 못한다”고 명시돼 있다. AI는 선악 판단이나 도덕심이 없는 데이터 처리 시스템일 뿐이라는 교황청의 입장은 앤스로픽의 견해와 정면으로 배치된다.

NYT는 앤스로픽이 지난해 하반기 이후 수많은 종교 지도자와 사상가들에게 접촉해 “AI에 의식이 존재할 수 있다”는 입장을 다각도로 설파하려 했다고 덧붙였다.

앤스로픽의 AI 의식론에 대한 IT업계 내부의 반발도 있다. 샘 올트먼 오픈AI 최고경영자(CEO)는 지난 3일 X를 통해 “AI 모델에 종교적 권위를 부여하거나 인간의 판단을 내맡기려는 시도에 강한 거부감을 느낀다”고 밝혔다. 직접적인 명시는 피했지만, 앤스로픽의 행보를 꼬집은 발언으로 업계는 해석하고 있다.

더불어 미국 신흥 AI기업 리버AI의 이고르 바부슈킨 CEO도 “앤스로픽은 클로드에 영혼이 있는 듯한 언론 플레이를 즉각 중단해야 한다”고 촉구하기도 했다. 최근엔 구글의 핵심 연구진 또한 AI의 인간성을 일축한 교황의 지침을 지지한다고 발표한 바 있다.

앤스로픽은 AI가 지켜야 할 행동 규범을 담은 ‘클로드 헌법’을 기반으로 AI를 개발 중이다. AI를 안전하게 통제하려면 도덕관을 교육해 선한 성품을 갖추게 해야 한다는 개발 철학 때문이다.

현재 앤스로픽은 2조 달러 규모를 목표로 한 기업공개(IPO)를 추진 중이다. 하지만 이 같은 개발 사상은 업계 내에서도 독자색이 극명해 평가가 엇갈리고 있다. AI를 지나치게 의인화할 경우 오히려 위험을 증폭시킬 수 있다는 우려도 늘고 있다.

앤스로픽의 주주이자 마이크로소프트의 AI 개발 총괄인 무스타파 술레이만은 “AI를 의인화해 스스로의 이익이나 권리를 주장하기 시작하면, 안전성 측면의 리스크가 걷잡을 수 없이 커질 것”이라고 경고했다.