레오 14세 교황이 25일(현지시간) 바티칸에서 AI 회칙을 발표하고 있다. (사진=AFP)
회칙은 교황이 전 세계 가톨릭 신자와 주교들에게 전하는 최고 권위의 사목 교서다. 다른 교황 문헌인 교황 교서, 권고, 담화, 연설, 강론 등과 비교해 가장 구속력이 강하다. 교황은 이번 회칙의 가장 중요한 표현으로 ‘AI 무장해제’를 꼽았다.
레오 14세는 AI 기술을 하늘에 이르는 탑을 세우다가 신의 분노를 산 성경 속 바벨탑에 비유했다. 레오 14세는 “모두가 또 하나의 바벨탑 건설을 포기하고 공동선을 구축하는 데 힘을 모으기를 요청한다”며 “AI는 무장 해제되어야 하며, 지배와 배제 죽음의 도구로 변질되는 것을 막아야 한다”고 말했다. 그는 AI는 누구에게나 열려있어야 한다며 정치권에 기술·정보의 시장 독점 감시가 필요하다고 강조했다.
특히 인간의 통제 없이 결정을 내리는 ‘자율 무기’에 대해 레오 14세는 “무력 사용에 대한 도덕적 문턱을 낮추고 전쟁을 더욱 쉽게 실행하도록 만든다”며 심각한 우려를 표했다. 그는 “추상적인 AI 윤리를 언급하는 것만으로는 충분하지 않다”며 “강력한 법적 체계와 독립적인 감독, 충분히 이해한 이용자들, 그리고 책임을 방기하지 않는 정치 시스템이 필요하다”고 밝혔다.
교황은 디지털 혁신으로 인한 대규모 실업 가능성을 “진정한 사회적 재앙”이라고 규정했다. 그는 또한 “기술은 결코 중립적이지 않다”며 “기술은 그것을 고안하고, 자금을 지원하고, 규제하고, 사용하는 사람들의 특성을 띠기 때문”이라고 부연했다.
레오 14세는 이번 AI 회칙 발표에 앤스로픽의 공동 창립자 크리스토퍼 올라와 동행했다. AI의 내부 작동 원리를 규명하는 ‘해석 가능성’ 분야의 연구를 주도하고 있는 올라는 이날 행사에서 “앤스로픽을 포함한 AI 기업들이 상업적 압력, 경쟁, 자존심, 야망 등 옳은 일을 하는 데 반하는 동기를 가지고 있다”며 “우리는 언제나 그러한 유인책의 영향을 받을 것이기 때문에 교회 지도자들처럼 안전을 최우선으로 생각하고, 우리의 진지하고 사려 깊은 비판자가 되어줄 사람들이 있는 것이 매우 중요하다”고 밝혔다.
앤스로픽은 사내 철학자를 고용해 AI에 도덕성을 심어주도록 노력하는 등 ‘안전한 AI’를 만들기 위한 작업을 하고 있다. 다만 AI 회칙 발표에 앤스로픽이 함께한 것을 두고 교황이 앤스로픽에 도덕적 승인을 내린 것처럼 보인다는 비판도 나왔다.
