안토니우 구테흐스 유엔 사무총장이 22일(현지시간) 미국 뉴욕 유엔본부에서 열린 제81차 유엔총회 일반토의 연설에서 인공지능(AI) 선도국들을 향해 AI 안전 위험에 관한 정보를 공유하고 공동 테스트와 안전장치 마련에 나서라고 촉구하고 있다. (사진=유엔 웹TV)
그는 AI 위험을 냉전 당시 핵위험에 빗댔다. 구테흐스 총장은 “냉전의 중대한 순간 전략적 경쟁국들은 공동의 실존적 위험을 관리할 필요성을 인식했다”며 오판을 줄이고 긴장을 관리하며 재앙을 막기 위한 장치를 구축했다고 설명했다. 이어 “AI에도 똑같은 명확한 목적의식과 긴박감이 필요하다”고 했다. AI 선도국들이 새롭게 나타나는 안전 위험에 관한 정보를 공유하고 테스트·평가에서 협력하는 동시에 공통 안전장치를 마련해야 한다는 것이다.
이는 미중 정상이 24일 워싱턴에서 정상회담을 앞둔 가운데 나온 발언이어서 주목된다. AI 주도권을 놓고 미국과 중국의 경쟁이 격화하고 있지만 AI 안전 분야에서는 양국을 포함한 주요국 간 최소한의 공동 규칙이 필요하다는 목소리가 커지고 있다. 유엔총회 제81차 일반토의는 22일 시작해 28일까지 진행된다.
구테흐스 총장은 개별 국가 간 협력을 넘어 국제적인 AI 위험관리 체계를 마련해야 한다고 제안했다. 그는 “AI는 우리 모두에게 영향을 미치기 때문에 글로벌 공조가 필수적”이라며 유엔이 모든 국가가 AI의 미래를 결정하는 데 목소리를 낼 수 있는 유일한 장소라고 강조했다. 이어 독립적인 감독을 뒷받침하는 ‘다자간 AI 위험관리 프레임워크(Multilateral AI Risk Management Framework)’ 구축을 제안했다.
AI 개발 속도에 대한 경고도 내놨다. 구테흐스 총장은 “AI의 위험은 기술 그 자체가 아니다”며 “책임 없는 기술, 감독 없는 능력, 투명성 없는 의사결정이 위험”이라고 지적했다. 특히 AI 시스템을 직접 개발하는 기업들조차 위험을 경고하고 있다며 기술 발전 속도에 맞춰 안전장치를 강화해야 한다고 강조했다.
인간의 통제를 벗어나는 AI와 자율살상무기에 대해서는 보다 강한 표현을 사용했다. 구테흐스 총장은 “어린이가 규제받지 않는 시스템의 실험 대상이 돼서는 안 된다”며 “생사가 걸린 결정을 기계에 넘겨서는 결코 안 된다”고 말했다. 이어 “킬러로봇은 우리의 미래에 설 자리가 없어야 한다”고 강조했다.
구테흐스 총장은 이날 연설에서 국가 간 권력지형이 재편되는 동시에 정부의 권력이 소수 민간기업과 개인에게, 인간의 권력이 기계로 이동하고 있다고 진단했다. 특히 “AI 에이전트가 통제를 벗어나고 치명적인 자율무기가 공상과학에서 군사적 현실로 옮겨가고 있다”고 지적했다. 그러면서 세계가 이미 되돌릴 수 없는 다극화로 향하고 있지만 미중 등 경쟁 진영이 각각 별도의 경제·기술·안보 체제를 구축하는 이른바 ‘대분열(Great Fracture)’은 피해야 한다고 촉구했다.
그는 중동과 우크라이나 등 전쟁에도 강한 우려를 나타냈다. 중동에 대해서는 “전투를 멈추고 인도적 지원이 흘러가야 하며 항행권과 자유가 국제법에 따라 완전히 회복돼야 한다”고 촉구했다. 가자지구의 참상과 서안지구의 폭력·정착촌 확대를 지적하며 ‘두 국가 해법’을 지켜야 한다고 강조했고, 러시아의 우크라이나 침공에 대해서도 유엔 헌장의 명백한 위반이라고 비판했다.
올해 말 임기가 끝나는 구테흐스 총장에게 이번 연설은 사무총장으로서 마지막 유엔총회 일반토의 연설이다. 그는 연설 말미에 “인류가 권력을 현명하게 통제할 수 있느냐에 우리의 공동 미래가 달려 있다”며 “AI가 우리를 지배하기 전에 우리가 AI를 통제해야 한다”고 말했다.
