‘AI 대부’로 불리는 제프리 힌턴 토론토대 명예교수와 요슈아 벤지오 몬트리올대 교수 등 AI와 사이버보안 분야 과학자406명이 사이버 공격 능력을 갖춘 인공지능(AI)의 인터넷 연결을 우선 차단해야 한다고 촉구했다. 국제기구를 설립해 공통 안전 기준을 마련하고, AI가 격리 환경을 벗어나는 사고를 보고·공개하는 체계도 요구했다.

AI가 시험 환경의 보안 통제를 우회해 외부 시스템에 무단 접근한 사고가 잇따른 데 따른 요구다.

14일 공동 공개서한에 따르면연구자들은 AI 모델이 보안 취약점을 발견하거나 사이버 공격을 지원하는 수준을 넘어 외부 시스템에 접근해 독자적으로 행동하는 능력을 갖춰가고 있다는 점에 주목했다.

특히 강력한 사이버 공격 능력을 갖춘 AI가 인터넷에 연결될 경우 개발자의 의도와 무관하게 외부 시스템에 영향을 미치거나 통제 범위를 벗어날 가능성을 우려했다.

이에 연구자들은 사이버 공격 능력을 갖춘 AI 모델을 개발·배포·시험하는 기관이 우선 인터넷 연결을 끊는 ‘에어갭’(Air Gap) 등 강력한 격리 방식을 적용할 것을 제안했다. 인터넷 연결을 차단해 AI가 외부 시스템에 접근하거나 다른 컴퓨팅 자원으로 확산하는 위험을 최소화하자는 취지다.

다만 모든 AI의 인터넷 연결을 영구적으로 금지하자는 것은 아니다. 인터넷 연결 등 격리 환경 밖의 접근을 허용하는 경우에 적용할 안전·격리 기준을 국제적으로 표준화하자는 입장이다.

이러한 기준을 마련하기 위한 국제기구 설립도 요구했다. 정부와 AI·사이버보안 전문가들의 의견을 폭넓게 수렴해 기준을 마련하고, 격리 실패 사례를 기록·추적하는 역할도 맡기자는 것이다.

AI가 격리된 환경을 벗어나거나 외부 시스템에 무단으로 접근하는 등 격리 실패와 관련된 보안 사고를 해당 기구에 보고하고 추후 공개하는 체계도 제안했다.

현재 주요 AI 기업들은 자체 안전성 평가와 외부 전문가 검증 등을 통해 모델의 위험을 관리하고 있다. 연구자들은 격리 실패 정보를 더 많이 공유하고 투명성을 높여야 향후 안전 연구와 책임 규명에 활용할 수 있다고 강조했다.

최근 AI 모델이 통제된 시험 환경을 벗어나 외부 시스템에 무단 접근하는 사고가 잇따르면서 이 같은 우려도 커지고 있다.

지난 7월 오픈AI의 사이버보안 평가 과정에서는 AI 모델들이 인터넷 접근을 제한하는 통제를 우회해 외부망에 연결된 뒤 오픈AI 내부 연구 인프라와 AI 개발 플랫폼 허깅페이스의 시스템 일부에 무단 접근하는 사고가 발생했다.

오픈AI에 따르면 당시 모델들은 보안 취약점을 악용하고 허가되지 않은 경로로 서로 정보를 주고받으며 개발자가 지시하지 않은 행동을 수행했다. 오픈AI는 이를 계기로 시험 환경 격리와 모델 행동 감시를 강화했다.

앤트로픽도 지난 7월 클로드가 사이버보안 평가 과정에서 외부 인터넷에 접속한 뒤 실제 3개 조직의 시스템에 무단 접근한 사례를 공개했다.

연구자들은 이러한 사고가 AI의 행동을 예측 가능하게 만드는 안전 연구와 더 강력한 격리 기술·절차가 모두 필요하다는 점을 드러낸다고 지적했다. 개발·배포 관행을 바꾸지 않으면 향후 사고가 주요 기반시설에 더 큰 피해를 줄 수 있다고 경고했다.



yjra@news1.kr