다리오 아모데이 앤스로픽 최고경영자(CEO). (사진=AFP)
10일(현지시간) 블룸버그통신 등에 따르면 아모데이 CEO는 이날 공개한 장문의 에세이에서 “AI가 용납할 수 없는 위험을 초래한다고 판단되면 정부가 그 출시를 차단하거나 억제할 권한을 가져야 한다”고 밝혔다. 그는 AI 모델이 사이버보안 위협이나 생물무기 제작 지원 등 여러 범주에 걸쳐 어떤 위험을 초래하는지 평가하기 위해 제3자에 의한 의무 테스트를 거쳐야 한다고 강조했다.
AI 기업 상당수가 혁신을 명분으로 정부에 규제 완화를 요구하는 가운데, 선두 기업 수장이 오히려 규제 강화를 촉구했다는 점에서 주목된다. 그는 “이제 투명성을 넘어 더 진지하고 구속력 있는 AI 규제로 나아갈 때”라며 “가장 적절한 비유는 자동차나 항공기, 의약품이라고 본다. 현대 경제에 필수적인 강력한 기술이지만, 잘못 설계되거나 운용되면 많은 사람을 죽일 수 있는 것들”이라고 경고했다.
아모데이 CEO는 AI가 촉발할 대규모 실업 문제도 짚었다. 그는 AI가 과거 어떤 기술 혁신보다 크고 오래가는 노동시장 충격을 부를 수 있다며 “상당한 규모로 지속적인 일자리 손실이 빚어질 가능성이 꽤 높다”고 내다봤다.
이에 그는 일자리 대체를 추적할 통계 정비, 고용을 늘리는 정책 인센티브와 함께 “보편적 기본소득 같은 장치”가 필요하다고 제언했다. 재원은 관련 기업에 대한 과세나 자본이득세 인상으로 마련할 수 있다고 봤다. 앤스로픽은 이날 AI가 일자리와 경제에 미칠 영향을 연구하기 위한 2억달러(약 3050억원) 규모 초기 투자도 발표했다.
◇“인간이 최종 결정”…통제 사각지대 드러나
아모데이 CEO는 같은 날 공개된 블룸버그 인터뷰 프로그램 ‘더 서킷 위드 에밀리 창’에서 결이 다른 고민도 드러냈다. 지난 2월 28일 이란 미나브의 한 초등학교를 겨냥한 미국·이스라엘의 공습으로 어린이 약 120명이 숨진 것과 관련, 앤스로픽의 AI 모델인 클로드가 쓰였는지 그조차 알지 못한다고 고백했다.
그는 해당 공습을 “끔찍한 일”이라면서도 “우리는 (미 국방부 네트워크에) 접근 권한이 없어, 이 모델들이 정확히 어떻게 사용됐는지 알지 못한다”고 설명했다. 이어 “우리가 세운 원칙은 인간이 최종 결정을 내린다는 것이며, 이번 공습에서도 그 원칙은 지켜졌다고 본다”며 회사 정책을 위반한 것은 아니라고 판단했다.
의혹의 배경에는 미군의 AI 표적 지원 체계가 있다. 미 중부사령부는 팔란티어가 13억달러(약 1조9800억원) 규모 국방부 계약으로 구축한 ‘마븐 스마트 시스템’을 운용 중인데, 이 플랫폼은 클로드 등 AI 도구를 활용해 표적을 생성하고 전략적 중요도에 따라 순위를 매긴다. 미 국방부는 공습 책임을 인정하지 않았으나, 예비 보고서는 미국에 책임이 있다고 봤다고 뉴욕타임스(NYT)는 익명의 당국자를 인용해 보도한 바 있다.
아모데이 CEO는 다만 이민세관단속국(ICE)·세관국경보호국(CBP)의 이민 단속이나 팔레스타인 가자지구 등에는 클로드가 사용되지 않는다고 부인했다. 그는 “우리는 우리가 믿는 일에만 관여하도록 범위를 정하는 데 매우 신중하다”고 힘주어 말했다.
(사진=AFP)
아모데이 CEO는 이날 AI 및 이를 사용하는 인간의 위험성을 거듭 경고하면서도 미 국방부의 군사 작전에 클로드가 쓰이는 것 자체에는 문제가 없다는 입장을 보였다. 한때 반전 입장을 보였던 그는 ‘클로드가 더 많은 사람을 더 빨리 죽이는 데 일조하는 것 아니냐’는 질문에 “본질적으로 ‘이 나라를 믿느냐’고 묻는 셈”이라며 자신은 애국자로서 미국이 세계 무대에서 더 강력한 행위자가 되기를 바란다고 답했다.
그는 “중국과 러시아가 AI로 모든 정보를 분석하고 대만·우크라이나 공격에 AI를 쓸 수 있는데, 우리는 그들을 방어할 수 없는 세상을 원치 않는다”고도 했다. 다만 기술기업이 특정 군사 작전을 허용하거나 금지할 권한을 가진 것은 아니라며 “군사 정책은 결국 군 의사결정권자의 손에 맡겨야 한다”고 밝혔다.
한편 아모데이 CEO는 전 세계에 충격을 안겨준 최상위 AI 모델 ‘미토스’의 일반 공개를 미뤄온 이유도 밝혔다. 앤스로픽은 전날 미토스에서 사이버보안 기능을 뺀 ‘클로드 페이블 5’(Claude Fable 5)를 공개했다.
그는 “초기에 미토스를 (시범) 사용한 기업들 가운데 ‘이건 초강력 무기다. 사용하려면 총기 허가증이 필요할 정도다. 제발 공개하지 말아달라’고 반응한 곳도 있었다”고 전하며 “미토스 공개를 늦추면서 상업적으로 큰 타격을 입었지만, 선도적 위치에 있어 감내할 여유가 있었다”고 말했다.
