'미토스 쇼크'로 불리는 인공지능(AI) 해킹 위협과 최근 중동 전쟁에서 불거진 'AI 무기화' 등 AI의 부작용에 대해 배경훈 부총리와 데미스 하사비스 구글 딥마인드 창업자가 머리를 맞댔다.

과학기술정보통신부는 27일 오후 서울 포시즌스 호텔에서 배경훈 부총리 겸 과학기술정보통신부 장관이'알파고'의 아버지로 불리는 데미스 하사비스 구글 딥마인드 공동 창업자 겸 최고경영자(CEO)와 만나 AI 안전과 가드레일 문제를 논의했다고 밝혔다.

이날 과기정통부는 하사비스 CEO와 과학기술 AI 공동연구, AI 인재 양성, 책임 있는 AI 활용 등 전방위적인 협력을 위한 업무협약(MOU)을 체결했다.

행사에서 배 부총리는 "AI 안전과 관련해AI가 인류 삶에 많은 도움 줄 수 있겠지만 AI를 잘못 사용했을 때 위험을 줄여나가기 위해 관련 연구도 같이해나갔으면 한다"고 구글 딥마인드에 협력을 요청했다.

또 "최근 '미토스'라는 앤트로픽 AI 모델 통해서도 AI가 해킹이나 보안 분야에서 깊숙하게 침투한 만큼 AI를 통한 사이버 보안 문제에서도 고민해야 할 사항이 많아졌다"며 "앞으로 안전하고 모두를 위한 AI 기본사회를 구글 딥마인드와 같이 만들어 나갈 수 있길 기대한다"고 덧붙였다.

하사비스 CEO는 이날 협약식에 앞서 이재명 대통령과 만나 AI 기술 발전과 책임 있는 활용 방안 등을 논의했다. 특히 두 사람은 'AI 가드레일'을 주제로 긴 시간 의견을 나눈 것으로 전해졌다.이 대통령은 AI를 안전하게 활용하기 위한 국제적 통제기구나 표준이 여전히 부족하다고 지적했고, 하사비스 CEO는 AI 기술의 위험성을 언급하며국제 사회가 공유할 최소한의 가드레일을 만들 필요성이 있다고 제언했다.

이를 두고 함께 배석했던 배 부총리는 "AI 모델을 우리가 컨트롤할 수 있는지 관점에서 AI 서비스에 가드레일이 필요하다고 하사비스가 얘기를 했다"며 "AI를 특정 계층만 사용하는 게 아닌 모두가 잘 쓸 수 있도록, 또 AI가 위험하게 사용되지 않기 위해 여러 가이드나 규제가 필요하다는 논의가 있었다"고 설명했다.

AI 가드레일 문제는 미국의 이란 공습 과정에서 AI가 사용된 사실이 알려지면서 부각됐다. 특히 이란 공습에 자사 AI가 사용된 데 반발한 앤트로픽이 미 행정부의 제재가 이어지자 직접 사과 입장을 밝히면서업계 일각에서는 국가와 전쟁 앞에 'AI 가드레일'이 무너졌다는 우려가 나왔다.

이를 두고하사비스 CEO는 이 대통령과 만나 민간 빅테크 기업 간 경쟁과 미·중 간 지정학적 경쟁이 맞물리며, 'AI 안전'과 관련한 글로벌 표준 논의가 충분히 진전되지 못하고 있다고 언급했다.

한편하사비스 CEO는 구글 딥마인드 창업자로, 10년 전 이세돌 9단과 바둑 인공지능 '알파고'의 대국을 총괄한 인물이다. 특히 단백질 구조 예측 AI 모델 '알파폴드'를 개발해 2024년 노벨화학상을 수상하기도 했다.

Ktiger@news1.kr