[이데일리 임유경 기자] ‘미토스 쇼크’가 확산되면서 인공지능(AI)의 발전 속도에 걸맞은 규제·통제 체계 마련이 시급한 과제로 떠올랐다. 기존 제도가 따라가기 어려울 만큼 빠르게 진화하는 AI가 금융 시스템까지 위협할 수 있다는 우려가 커지면서, 글로벌 차원의 리스크 관리 거버넌스 구축 필요성도 급격히 부각되고 있다.

미토스는 범용 AI가 고도화되는 과정에서 인간의 통제를 벗어나 위협으로 작용할 수 있음을 보여줬다. 앤스로픽에 따르면 웹브라우저 파이어폭스(147버전) 자바스크립트 엔진을 대상으로 한 실험에서 기존 최고성능 모델인 오퍼스 4.6은 취약점 탐지에는 강점을 보였지만, 실제 공격 코드 생성에서는 거의 성과를 내지 못했다. 반면 미토스는 동일 조건에서 81개의 공격 코드를 생성해 72%의 성공률을 보였다. 이는 별도로 해킹을 수행하도록 훈련된 결과가 아니라, 코드 이해·추론·자율성 향상이 결합되며 자연스럽게 나타난 ‘비의도적 능력’이라는 점에서 더 큰 우려를 낳는다.

이 같은 능력이 악용될 경우 파장은 치명적이다. 은행 계좌 대규모 탈취, 국제 결제망 마비, 금융 시스템 신뢰 붕괴 등 ‘시스템 리스크’로 직결될 수 있기 때문이다. 실제로 글로벌 금융 수장들은 미토스를 단순 기술 이슈가 아닌 거시경제 리스크로 인식하고 있다. 국제통화기금(IMF)·세계은행 춘계회의에서도 주요 의제로 다뤄졌으며, 주요국 재무장관과 중앙은행 총재들이 일제히 우려를 표명했다.

이처럼 위험은 커지고 있지만, 이를 통제할 규제 체계는 사실상 공백 상태에 놓여 있다. 현재 고위험 AI를 직접적으로 통제할 글로벌 규범이나 강제력 있는 제도는 사실상 부재하다. 주요국은 AI 경쟁력 확보에 집중하면서 안전 규제는 후순위로 밀려났고, 그 결과 초고성능 AI의 위험 관리가 기업 자율에 맡겨진 상태다. 실제로 미토스의 공개 여부와 활용 범위 역시 상당 부분 기업 판단에 의존하고 있다.

미국은 친혁신 기조를 유지하며 강력한 사전 규제를 도입하지 않고 있다. 연방 차원에서는 기업 자율에 무게를 두고 있으며, 캘리포니아 등 일부 주(州)에서 도입된 규제도 위험 평가·보고 의무 수준에 그친다.

유럽연합(EU)은 ‘AI법’을 통해 보다 강한 규제 틀을 마련했지만, 이번 미토스 사례에 규제 체계의 한계를 드러났다. 미토스처럼 모델이 시장에 정식 출시되지 않은 경우 EU 규제 적용 여부가 명확하지 않고, EU에서 차단된 모델이 EU 내 시스템을 해킹하는 데 사용될 경우 이 법을 어떻게 적용할 수있을지도 모호하다. 폴리티코 유럽판에 따르면 EU는 현재 미토스 관련 논의에서 상당 부분 배제된 상태이며, 규제당국의 접근 여부조차 불분명한 상황이다.

이에 고성능 AI 통제를 위한 글로벌 거버넌스 마련이 필요하다는 목소리가 커지고 있다. 주요 7개국(G7) 재무장관들도 지난 15일 회의에서 어떤 국가도 단독으로 미토스 위험에 대응할 수 없다는 인식 아래, AI 거버넌스를 감독할 국제적 제도 틀의 필요성을 논의했다. 다만, 구체적 실행 방안은 여전히 불투명하다. 가브칼 리서치의 라일라 카와자 애널리스트는 “최첨단 AI 역량이 이를 통제할 거버넌스 체계보다 훨씬 빠르게 발전하고 있다”며 “이러한 모델이 금융과 같은 핵심 시스템에 깊이 자리 잡기 전에 안전장치를 구축하는 것이 시급하다”고 말했다.