(AI 생성 이미지)
류제명 과학기술정보통신부 2차관은 28일 국회 과학기술정보방송통신위원회 전체회의에서 “미토스 프리뷰가 나온 이래로 우리나라뿐 아니라 전 세계 보안 당국과 업계 전반에서 보안 위협에 대한 우려가 커지고 있다”며 “AI가 보안의 규칙까지 바꾸고 있는 만큼, 공격자의 손에 AI가 들어갈 가능성에 대비해 전국의 보안 책임자들에게 보안 관제 수준 제고를 공지하는 등 보안 수준을 높이는 작업을 진행 중”이라고 밝혔다.
이러한 정부의 판단 근거에는 실무 부서의 구체적인 실증 테스트가 있었다. 다만 현재 앤스로픽 측이 보안 우려를 이유로 미토스의 일반 공개를 보류하고 일부 기업·기관만 참여하는 ‘글래스윙 프로젝트’를 통해 폐쇄적으로 운영하고 있어, 정부는 미토스의 이전 버전을 활용해 간접적으로 위험성을 측정했다.
◇“해커가 작심하면 위험”…오퍼스 4.7로 확인한 공격 시나리오
최우혁 과기정통부 네트워크정책실장은 “미토스는 아직 공개되지 않아 현시점에서 정부가 정확히 평가하기는 어렵다”고 전제한 뒤, “대신 성능을 약간 낮추고 세이프가드를 설정해 공개된 ‘오퍼스(Opus) 4.7’ 모델로 실증 테스트를 진행했다”며 구체적인 결과를 공개했다.
최 실장의 설명에 따르면, 과기정통부가 일반 직원과 전문 해킹 지식을 갖춘 직원을 나눠 테스트한 결과 일반적인 프롬프팅으로는 공격 툴 제작이 불가능했다. 전문 해커 수준의 사용자가 단계별로 매우 정교하게 프롬프트를 설계할 때만 세이프가드를 우회하는 동작이 확인됐다.
최 실장은 “실무적으로 확인해 본 결과, 한 줄의 프롬프트로 즉각적인 해킹이 이뤄지는 것이 아니라 매우 많은 단계를 거쳐야만 공격 시나리오 구성이 가능한 상태였다”고 설명했다. 다만 그는 “이것은 미토스가 아닌 오퍼스 4.7 기준의 결과인 만큼, 미토스가 정식 공개된 이후에야 언론 등에서 우려하는 자동화·신속화된 해킹 위험성을 제대로 평가하고 말씀드릴 수 있을 것”이라고 덧붙였다.
정부는 미토스의 취약점을 미리 점검하고 방어 체계를 구축하기 위해 앤스로픽 측과 접촉 중이나, 정보 접근권 확보에는 난항을 겪고 있다. 현재 앤스로픽은 미토스의 정식 출시를 미루고 리눅스 재단 등 50여 개 주요 기관 및 기업이 참여하는 ‘글래스윙 프로젝트’를 통해 사전 보안 점검을 진행 중이다.
이혜민 조국혁신당 의원은 “영국은 AI 안전연구소(AISI)를 통해 이미 접근 권한을 받아 독립 평가를 하고 있는데, AI 3대 강국이라는 한국은 왜 이 명단에서 빠졌느냐”며 정부의 외교적·기술적 협상력을 질타했다.
이에 대해 류 차관은 “과기정통부 실무진이 앤스로픽의 한일 담당 책임자와 영상 면담을 진행했고, AI 안전연구소를 통해서도 앤스로픽 보안 총괄 측과 커뮤니케이션을 지속하고 있다”면서도 “참여 필요성을 강력히 요청했으나 아직 확답은 받지 못한 상태”라고 시인했다.
류제명 과학기술정보통신부 2차관이 28일 국회에서 열린 과학기술정보방송통신위원회 전체회의에서 의원 질의에 답하고 있다. (사진=뉴시스)
참여 기관의 구체적인 명단에 대해서도 정부는 명확한 정보를 파악하지 못하고 있다. 신성범 국민의힘 의원이 글래스윙 프로젝트에 참여 중인 50여 개 기관의 내역을 요구하자, 최우혁 실장은 정보 수집의 한계를 토로했다. 최 실장은 “우리 실무자가 앤스로픽 측과 접촉해 참여 기관 전체 명단을 요청했으나, 앤스로픽으로부터 ‘초기에 공개된 12개 기업 외에는 명단을 공개할 수 없다’는 답변을 받았다”고 밝혔다.
신 의원이 “우리 공무원이 직접 영상 면담까지 했는데도 알려주지 않는다는 것이냐”고 반문하자, 류 차관은 “영국이나 리눅스 재단 등이 포함된 것으로 보이나 자세한 내역은 앤스로픽 측에서 확답을 주지 않고 있는 상황”이라고 부연했다.
정치권은 미토스가 발견한 보안 취약점이 정책에 따라 90일 후(오는 7월 초) 전면 공개될 경우 발생할 ‘보안 대란’을 우려했다.
이주희 더불어민주당 의원은 “미토스 쇼크는 우리 AI 정책이 한 단계 진화해야 한다는 신호”라며 “별도의 고도화된 코딩 없이 프롬프팅만으로 국가 핵심 인프라에 대한 공격 시나리오 구성이 가능하다면, 이에 대응할 범정부 차원의 구체적인 시나리오가 마련되어야 한다”고 촉구했다.
이혜민 의원 역시 “기술의 속도를 법과 제도가 따라가기 힘들지만, 7월과 12월이라는 명확한 데드라인이 존재한다”며 “정부가 추진하는 ‘AI 사이버 실드 돔’ 등은 2027년에나 착수하는데, 당장 올 연말에 미토스급 모델이 쏟아져 나올 때 어떻게 대응할 것인지 우려된다”고 지적했다. 특히 “K-보안 같은 명칭에 집착하지 말고, 오픈AI 등 다양한 블록과 접촉해 ‘사이버 다중화 전략’을 취해야 한다”고 강조했다.
과기정통부는 이번 사태를 계기로 보안 패러다임을 ‘AI로 AI를 막는’ 체계로 전면 전환하겠다는 방침이다. 류 차관은 “청와대 국가안보실을 중심으로 관계기관 상황 공유 및 대책 회의를 진행하고 있으며, 통신 3사와 플랫폼 기업들과도 실시간 대응 체계를 논의 중”이라며 “내년도 예산 편성 과정에서 AI 보안 전담 추진 체계와 전문 인력 양성 예산을 대폭 반영하겠다”고 밝혔다.
이어 류 차관은 “중소기업들이 이런 고도화된 AI 위협에 대처할 능력이 부족한 것이 가장 큰 문제”라며 “중소기업 대상 보안 컨설팅과 가이드라인 배포를 동시다발적으로 진행해 현장의 공백을 메우겠다”고 덧붙였다.
