[이데일리 방성훈 기자] 인공지능(AI)을 완전히 꺼버릴 수 있는 ‘킬 스위치’를 법으로 의무화해야 할 수도 있다는 주장이 AI 기업 창업자 입에서 나왔다. 그것도 기업이 알아서 갖추는 수준이 아니라, 제대로 작동하는지 제3자가 확인할 수 있어야 한다는 것이다.

앤스로픽 공동창업자 7명 가운데 한 명인 잭 클라크는 14일(현지시간) BBC방송과의 인터뷰에서 “기업들이 킬 스위치를 반드시 갖추도록 의무화해야 하는가. 그 킬 스위치를 제3자가 검증할 수 있는가”라고 되물으며 “사회가 알고 싶어 할 만한 문제이고, 언젠가는 이를 두고 규칙을 만들려 할 수도 있는 사안”이라고 말했다.

킬 스위치는 AI가 지나치게 위험해졌을 때 소프트웨어를 완전히 차단하는 장치를 뜻한다.

클라크는 “앤스로픽을 포함해 대부분의 연구소가 저마다 전원을 뽑을 방법을 갖고 있다”면서도, 입법자들이 이를 강제할 필요가 있을지 모른다고 했다. 구체적인 요건과 검증 방식은 AI를 둘러싼 “더 큰 정책 논의”의 일부가 돼야 한다고 촉구했다.

이와 관련, 앤스로픽과 오픈AI는 올해 들어 어느 정도 자율적으로 작동하는 AI 에이전트가 예상치 못한 방식으로 행동한 사례를 여러 차례 스스로 공개했다고 BBC는 부연했다.

클라크의 발언은 AI 개발 속도를 늦춰야 한다는 주장이 잇따르는 가운데 나왔다. 다리오 아모데이 앤스로픽 최고경영자(CEO)는 지난 주말 개발 속도를 늦추고 감시를 강화하자고 요구하면서도, 이런 조치가 “상업적 우위를 희생하지 않으면서” 이뤄져야 한다고 단서를 달았다. 앤스로픽은 2021년 오픈AI 출신들이 세운 회사로, 챗봇 클로드를 만들었다.

논쟁에 불을 붙인 것은 AI가 인류를 절멸시킬 수 있다는 내부자들의 경고다. 지난주 앤스로픽을 그만둔 한 연구원의 글이 확산했고, 이에 대해 에번 휴빙거 앤스로픽 연구원은 향후 10년 안에 AI로 인한 인류 멸종 가능성이 “10%를 넘는다”는 것이 개인적 견해라고 밝혔다.

‘AI 대부’로 불리는 노벨상 수상자 제프리 힌턴도 지난 11일 BBC방송에 10% 확률이 “불합리한 수치는 아니다”라고 말했다. 이들은 AI가 인터넷에 연결된 주요 시스템을 장악해 인간을 공격하는 방식을 우려한다.

반론도 만만치 않다. 위험이 과장됐거나 기업 홍보용이라는 지적이다. 개발자 플랫폼 허깅페이스를 이끄는 클레망 들랑그는 지난주 “AI 절멸 위험을 그에게 묻는 것은 에어컨 기사에게 기후변화를 묻는 것과 같다”며 “관점을 잃지 말자”고 적었다.

조지 애리슨 그라인더 CEO는 “이런 기업가치를 정당화하는 유일한 방법은 ‘내가 모든 산업과 모든 일자리를 차지하고 내 AI가 그 일을 다 하게 될 것’이라고 주장하는 것뿐”이라고 꼬집었다.

실제로 앤스로픽은 기업가치 9650억달러(1301조3025억원)를 인정받고 기업공개(IPO)를 준비하고 있다. 기업가치 8520억달러(1148조9220억원)인 오픈AI도 상장이 예상됐지만, 샘 올트먼 CEO는 지난 11일 AI 안전 논쟁을 이유로 올해는 상장하지 않겠다고 밝혔다.

클라크는 AI가 인류를 몰살할 확률을 묻는 질문에 “이런 통계는 그다지 쓸모 있다고 보지 않는다”고 답했다. 다만 AI를 “완전히 규제받지 않는 산업”으로 두는 것은 나쁜 생각이라고 했다. 그는 “우리는 엄청난 위험을 안고 주사위를 굴리고 있다”며 “핵심은 이 산업의 진로를 바꿔야 한다는 것”이라고 강조했다.

미 의회에서는 문제가 있는 AI를 차단할 수단을 기업에 의무화하는 이른바 ‘킬 스위치법’이 발의됐다. 특정 기관에 AI 도구의 가동 중단이나 제한을 요구할 권한도 준다.

하지만 규제 완화론자인 도널드 트럼프 미 대통령은 AI 속도 조절 자체를 거부하며 소셜미디어(SNS)에 “AI가 세계를 장악하고 인류를 파괴하며 다른 모든 것을 나쁘게 만든다는 건 사기”라고 적었다.

영국 정부도 최근 킬 스위치 도입을 거부하면서, 그런 장치가 “다른 곳에서 개발되거나 오용되는 것을 막지는 못한다”고 밝혔다.