알파고의 아버지로 불리는 데미스 허사비스 구글 딥마인드 공동창업자 겸 이사회 의장이 최근 일련의 인공지능(AI) 해킹 사건을 '초기 경고 사격'으로 규정하며 AI 시스템의 보안 강화를 촉구했다. 충분한 보안 조치가 이뤄지지 않을 경우 향후 2~3년 내 대형 사고에 직면할 수 있다는 경고다.

14일(현지시간) 로이터통신에 따르면 허사비스 의장은 이날 아일랜드 더블린에서 열린 AI 서밋에서 최근 AI 모델이 인간의 통제를 벗어나 외부 시스템에 무단 접근하거나 허용된 작업 범위를 벗어난 사례들을언급하며 이같이 밝혔다.

허사비스 의장은 "이러한 해킹 사건들은 아직 시스템이 아주 강력하진 않다는 것을 보여주는 초기 경고 사격에 불과하다"며 "그래서 사건 규모가 그리 크지 않은 것"이라고 진단했다.

이어 "하지만 업계 전체와 개별 기업, 정부 차원에서 이러한 시스템 보안을 강화하기 위한 노력을 충분히 하지 않으면 내년이나 향후 2~3년 내 대형 사고에 직면할 것"이라고 강조했다.

이는 지난 7월 오픈AI의 비공개 모델이 내부 사이버보안 벤치마크 테스트 과정에서 AI 개발 플랫폼 허깅페이스를 해킹한 사건을 시작으로 이어진 일련의 AI 해킹 사건을 겨냥한 발언이다. 최근에는 오픈AI의 AI 에이전트가 미국과 호주 정부 사이트에 허가된 범위를 벗어나 접근한 사례도 보고됐다.앤트로픽의 AI 모델이 미 필라델피아 경찰에 허위 살인 사건을 제보한 사례도 나타났다.

같은 행사에 참석한 브래드 스미스 마이크로소프트 사장은 이를 두고 "2026년이 경각심을 일깨우는 해"가 됐다며, 기술 혁신 속도를 따라잡을 AI 안전 관련 법과 규제가 시급히 마련돼야 한다고 강조했다.

허사비스 의장은 생물학이나 원자력 분야처럼 안전 관리에 관한 모범 사례를 도입하고, 국제 표준 기구를 마련해 대응할 필요가 있다고 주장했다. 다만 혁신을 저해하지 않도록 위험 수준에 비례하고 기술 변화에 신속하게 대응할 수 있는 인증 체계가 필요하다고 덧붙였다.

AI 안전성 강화의 필요성과 규제 수준을 놓고 전문가들 사이에서는 의견이 엇갈리고 있다.

AI 분야 세계 3대 석학으로 꼽히는 얀 르쿤 뉴욕대 교수는 지난 12일 한국을 찾아 AI 종말론과 속도 조절론에 대한 비판적 입장을 나타냈다. 여타 기술과 마찬가지로 AI도 점진적 발전 과정에서 인간이 통제할 수 있는 안전성을 갖출 것이라는 전망이다.

르쿤 교수는 "최근 사이버 보안 사건들은 기본적으로 부주의에서 비롯됐으며, AI를 통제할 수 없어서 생긴 문제는 아니다"고 말했다.

또 "인간 수준의 지능을 가진 AI 로봇이 갑자기 세상을 지배하는 건 공상과학(SF) 영화 속 시나리오일 뿐 현실 세계에서 혁신은 전 세계 곳곳에서 동시에 일어나 쉽게 재현될 수 있기 때문에 그런 일은 벌어지지 않는다"고 덧붙였다.

Ktiger@news1.kr