회사 측은 “이번 사안은 오해에서 비롯된 것”이라면서도 “최대한 신속하게 서비스 접근을 복구할 수 있도록 노력하고 있다”고 덧붙였다.
(로이터/연합뉴스)
이에 따라 앤스로픽은 전세계 고객을 대상으로 두 모델의 서비스를 일시 중단했다. 다만 기존 다른 AI 제품에 대한 접근은 영향을 받지 않는다고 설명했다.
앤스로픽은 “정부의 법적 지침을 준수해 모든 사용자의 페이블5 및 미토스 5 접속을 차단하고 있다”면서도 이번 조치에 대해 공개적으로 반발했다.
앤스로픽에 따르면 회사는 미국 정부로부터 이날 오후 5시21분(현지시간) 관련 지시를 받았다. 정부는 구체적인 국가 안보 우려 사항은 제시하지 않았으나, 페이블5의 안전장치를 우회하는 이른바 ‘탈옥(jailbreak)’ 기법과 관련된 문제를 인지한 것으로 전해졌다.
앤스로픽은 완벽한 탈옥 방어는 현재 기술적으로 불가능하다는 점을 인정하면서도, 탈옥 시도를 제한하고 신속히 탐지·차단하기 위한 ‘심층 방어(defense in depth)’ 전략을 적용해 위험 수준을 기존 상용 AI 모델과 유사한 수준으로 낮췄다고 설명했다.
앤스로픽은 “특히 미국 정부가 문제 삼은 것으로 알려진 기능 역시 특정 코드베이스를 분석하고 소프트웨어 결함을 찾는 수준으로, 오픈AI GPT-5.5를 포함한 다른 주요 AI 모델에서도 이미 제공되는 기능”이라고 주장했다.
앤스로픽은 해당 기법을 검토한 결과, 과거 알려진 일부 경미한 취약점을 발견할 수 있는 수준에 불과했으며, 공개된 다른 AI 모델도 별도의 우회 과정 없이 동일한 수준의 기능을 수행할 수 있다고 밝혔다.
회사는 페이블5 출시 과정에서 미국 정부와 영국 AI 안전연구소(AISI), 외부 보안 기관, 내부 연구진이 수천 시간에 걸쳐 안전장치를 검증했다고 강조했다.
또 “현재까지 어떤 테스터도 광범위한 사이버 보안 기능을 해제하고 모델의 보안 조치를 완전히 우회할 수 있는 범용 탈옥 방법을 발견하지 못했다”며 “보고된 사례 역시 무해한 응답이나 경미한 수준의 발견에 그쳤다”고 밝혔다.
회사는 “극히 제한적인 탈옥 가능성이 발견됐다는 이유로 수억 명에게 배포된 상용 모델을 회수해야 할 정도의 사안으로 보는 것에 동의할 수 없다”며 “이 기준이 업계 전반에 적용된다면 신규 AI 모델 출시가 사실상 중단될 것”이라고 밝혔다.
한편 이번 정부 지침으로 한국인터넷진흥원(KISA)과 삼성전자, SK하이닉스, SK텔레콤 등 프로젝트 글래스윙 참여 기관들 역시 영향을 받을 전망이다.
앤스로픽은 “이번 사안은 오해에서 비롯된 것으로 판단된다”며 “최대한 신속하게 서비스 접근을 복구할 수 있도록 노력하고 있다”고 밝혔다.
