지난 8일(현지시간) 미국 뉴욕증권거래소(NYSE) 산하 NYSE 아메리칸(AMEX)에서 선물·옵션 트레이더들이 업무를 보고 있다. (사진=로이터)
◇앤스로픽이 쏘아올린 ‘AI 감속론’
논쟁에 불을 붙인 것은 다리오 아모데이 앤스로픽 최고경영자(CEO)다. 아모데이는 지난 주말 공개한 장문의 글에서 AI가 스스로 차세대 AI 개발에 기여하면서 기술 발전 속도가 크게 빨라지고 있다며 최첨단 모델의 능력 향상 속도를 조절할 필요가 있다고 주장했다.
그는 외부 평가자에게 AI 기업 직원과 유사한 수준의 시스템 접근권한을 부여하고, 최첨단 AI 기업들이 공통 안전기준을 마련해야 한다고 제안했다. 장기적으로는 국가 간 협력을 통해 AI 발전 속도에 일종의 ‘속도 제한’을 두는 방안까지 제시했다. 다만 군사·경제적 우위를 차지하려는 국가 간 경쟁 때문에 국제적 합의가 쉽지 않을 것이라고 인정했다.
샘 올트먼 오픈AI CEO와 일론 머스크도 아모데이의 문제의식에 동조했다. 올트먼은 “프런티어의 속도를 조절해야 한다(pace the frontier)”는 데 동의하며 오픈AI도 독립적인 외부 평가자에게 내부 접근권한을 제공하겠다고 밝혔다. 그는 “미국의 경쟁 압력이 무모함을 정당화해서는 안 된다”고 강조했다.
다만 올트먼은 AI 개발을 중단하자는 뜻은 아니라고 선을 그었다. 그는 “속도 조절(pacing)을 말할 때 중단(stopping)을 의미하는 것은 아니다”며 기술 발전은 계속될 것이라고 밝혔다. 즉 이번 논의의 핵심은 AI 개발 자체를 멈추는 것이 아니라 인간의 감시·통제 능력을 앞질러 최첨단 AI 성능이 향상되는 것을 막자는 데 있다.
일론 머스크(왼쪽부터) xAI 최고경영자(CEO), 다리오 아모데이 앤스로픽 CEO, 샘 올트먼 오픈AI CEO (사진=AFP)
중국은 즉각 반발했다. 궈자쿤 중국 외교부 대변인은 이날 정례 브리핑에서 미국 AI 업계의 주장에 대해 “공포 조장과 대립, 악의적 경쟁은 글로벌 AI 거버넌스 과정을 방해할 뿐 누구에게도 도움이 되지 않는다”고 비판했다. 중국 관영 글로벌타임스도 아모데이의 제안이 중국의 정당한 AI 발전을 위협으로 묘사해 미중 간 대립을 부추기고 있다고 주장했다.
중국이 민감하게 반응하는 것은 아모데이의 주장이 AI 안전에만 국한되지 않기 때문이다. 그는 민주주의 국가들이 AI 분야에서 가능한 한 큰 우위를 유지해야 한다며 중국에 대한 첨단 반도체 수출통제를 강화하고 미국 AI 모델의 결과물을 활용해 경쟁 모델을 훈련하는 ‘증류(distillation)’도 제한해야 한다고 주장했다. 중국으로서는 AI 안전론이 미국의 기술우위를 고착시키기 위한 수단이 될 수 있다고 의심할 만한 대목이다.
논쟁은 오는 24일 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석의 정상회담을 앞두고 양국이 추진 중인 AI 대화에도 변수가 될 전망이다. 미국과 중국 모두 AI를 이용한 사이버 공격과 허위정보, 첨단 AI에 대한 통제 상실 가능성 등을 우려하지만 안전 문제와 기술 패권 경쟁의 경계가 흐려지면서 공통 규칙 마련은 더욱 어려워질 수 있다.
사진=로이터
월가가 민감하게 반응하는 것은 AI 개발 속도 조절이 천문학적인 AI 인프라 투자에도 영향을 미칠 수 있어서다. 지금까지 AI 기업들의 치열한 성능 경쟁은 데이터센터와 첨단 반도체, 메모리, 전력·컴퓨팅 장비에 대한 막대한 투자를 촉발했다.
로이터는 오픈AI와 앤스로픽이 동시에 AI 개발 속도 조절 필요성을 제기하면서 시장이 AI 인프라 구축 속도까지 늦춰질 가능성을 가격에 반영해야 할 수 있다고 분석했다. MSCI의 AI 관련 종목 바스켓은 2022년 챗GPT 출시 이후 120% 넘게 상승해 글로벌 주가지수보다 두 배 이상 빠르게 올랐다. 그만큼 AI 성장 기대가 흔들릴 경우 주식시장에 미칠 충격도 커질 수 있다.
다만 AI 기업들이 실제 투자계획을 축소하거나 데이터센터·반도체 주문을 줄이기 시작한 것은 아니다. 오히려 올트먼은 AI 발전 자체는 계속될 것이라고 강조했다. 현재 시장이 경계하는 것은 AI 안전 논쟁이 개발 속도 조절과 규제 강화 논의로 이어져 그동안 AI주를 밀어올린 ‘더 빠른 모델 개발→더 많은 컴퓨팅 자원→더 큰 인프라 투자’라는 투자 사이클의 속도를 늦출 가능성이다.
사진=AFP









