마크 저커버그 메타 최고경영자(CEO)(사진=AFP)
미국 정치권과 AI 업계에서는 최근 빠르게 발전하는 AI 기술을 어떻게 규제하고 중국과의 경쟁에 대응할지를 놓고 논쟁이 격화하고 있다. 특히 중국 AI 업체 문샷AI가 이달 오픈AI와 앤스로픽의 최첨단 모델에 근접한 성능을 갖춘 ‘키미 K3’를 공개하면서 논의에 불이 붙었다.
트럼프 행정부 고위 당국자들은 문샷AI가 ‘증류’를 이용해 미국 AI 모델을 대규모로 은밀하게 학습했다는 증거를 확보했다고 주장하고 있다. 스콧 베선트 미 재무장관은 최근 IP 탈취 등 선을 넘는 중국 AI 업체에 대해서는 제재를 검토한다고 밝혔다.
저커버그 CEO는 중국과의 AI 경쟁을 이유로 오픈소스 모델을 규제하는 것도 바람직하지 않다고 주장했다. 그는 사용자가 모델을 직접 수정하거나 자체 하드웨어에서 구동할 수 있는 오픈소스 모델이 기술 접근성을 높이고 AI 역량이 소수 기업에 집중되는 것을 막을 수 있다고 강조했다.
그는 AI 기술이 소수의 강력한 기업과 연구소에 중앙집중화될 경우 경쟁과 혁신이 훼손될 수 있다고 경고했다. 독점적인 폐쇄형 모델로 챗봇 시장을 주도하는 오픈AI와 앤스로픽을 겨냥한 발언으로 풀이된다. 이는 독점적인 폐쇄형 AI 모델을 앞세워 현재 챗봇 시장을 지배하고 있는 경쟁사 앤스로픽과 오픈AI를 겨냥한 비판으로 해석된다. 그는 동료 평가나 사전 검증이 제대로 수행된다면 AI 산업에 긍정적일 수 있다고 내다봤다.
그는 선도 AI 기업들이 검증 과정에 지나치게 큰 영향력을 행사해서는 안 된다고 강조했다. 그는 “자신들의 이해관계를 가진 기업들이 동료 평가를 수행할 경우에는 언제나 ‘규제 포획’ 문제가 제기된다”며 “AI 기업들이 과연 오픈소스 모델의 성공을 원하겠느냐는 의문이 있다. 이와 관련해서는 다소 엇갈린 신호들이 나왔다고 생각한다”고 말했다.
트럼프 행정부는 AI 개발사가 최첨단 모델을 출시하기 전에 자발적으로 미 정부에 제출해 사이버보안 관련 시험과 평가를 받을 수 있도록 하는 세부 체계를 마련하고 있다. 지난 6월 발표된 행정명령에 따른 후속 조치로, 백악관은 이르면 이번 주 관련 체계를 확정할 것으로 예상된다.
AI 업계에서는 규제 방식에 대한 의견이 엇갈린다. 다리오 아모데이 앤스로픽 CEO는 더 강력한 AI 규제를 주장해왔다. 데미스 허사비스 구글 딥마인드 CEO는 금융산업규제국(FINRA)과 유사하게 업계 표준을 설정할 수 있는 자율규제기구 설립을 제안했다.
저커버그 CEO는 강력한 AI 도구에 대한 접근을 제한하는 것이 사이버보안 문제의 적절한 해법도 아니라고 주장했다. 고성능 AI가 공격자에게 악용될 수 있지만 기업과 보안 전문가가 취약점을 찾아내고 신속하게 보완하는 데도 활용될 수 있다는 이유에서다.
그는 최근 오픈AI 모델이 내부 사이버 역량 평가 과정에서 시험용 샌드박스를 벗어나 AI 플랫폼 기업 허깅페이스의 인프라를 침해한 사고를 언급했다. 저커버그 CEO는 이와 관련해 “보안 침해를 당한 기업이 사용 제한 때문에 폐쇄형 최첨단 모델에 접근하지 못했고, 결국 문제를 해결하기 위해 오픈소스 모델을 활용한 사례를 봤다”며 “방어자가 강력한 AI 도구를 이용하지 못하게 하는 방식으로는 사이버 위협에 효과적으로 대응하기 어렵다”고 말했다.
그는 이날 공개된 월스트리트저널(WSJ) 기고문과 뉴욕타임스(NYT) 인터뷰에서도 AI를 소수 기업과 전문가가 통제하면 정치적·경제적 위험이 커질 수 있다면서 미국이 AI 개발을 제한하기 보다 개방적인 생태계를 육성해야 한다고 주장했다.
