앤트로픽이 강력한 사이버 보안 능력을 갖춘 인공지능(AI) 모델 '클로드 미토스'를 보안 전문가들에게 확대 개방한다. 검증된 보안조직에는 해킹 관련 작업을 제한하는 안전장치도 단계별로 완화해 적용한다.

7일(현지시간) 앤트로픽은 6개월간 별도로 운영했던 프로젝트 '글래스윙'과 CVP를 통합하기로 했다고 밝혔다.

앤트로픽은 프로젝트 글래스윙을 통해 최상위 AI 모델 클로드 미토스에 대한 접근 권한을 허용했고, CVP에서는 클로드 오퍼스와 클로드 소넷을 제공해 왔다.

이번 개편으로 세 등급 모두 클로드 오퍼스 5.5, 클로드 소넷 5.5, 클로드 미토스 5.1을 포함해 앞으로 출시될 새로운 모델에 접근할 수 있다. 다만 등급이 높아질수록 사이버 작업 차단 분류기가 완화된다.

새로운 접근 등급 체계는 '방어 접근', '레드팀 접근', '특수 접근'의 세 단계로 나뉜다.

첫 단계인 방어 접근은 보안운영센터 업무·사고 대응·악성코드 역분석 등 방어 업무를 수행하는 기업·비영리단체·대학·정부 기관의 보안팀이 대상이다.

두 번째 단계인 레드팀 접근은 방어적 용도에 더해 승인된 침투 테스트와 레드팀 활동이 추가된다. 기업·정부기관, 보안 및 침투 테스트 기업의 레드팀이 대상이며, 해당 조직들은 테스트 권한을 부여받은 시스템에 대해서만 공격적 테스트를 수행할 수 있다. 다만 랜섬웨어 배포나 물리적 시스템 손상 등 중대한 피해를 일으킬 수 있는 작업은 계속 차단된다.

가장 높은 단계의 '특수 접근'은 항공기 운항 시스템, 전력망, 통신망, 정부 행정망, 은행 간 자금이체 인프라 등 사람의 생명에 영향을 미치거나 시장을 교란할 수 있는 중요 시스템을 테스트할 권한을 가진 제한된 수의 검증된 조직을 대상으로 한다. 앤트로픽은 기존 글래스윙 참여 조직은 특수 접근 등급으로 자동 전환된다고 밝혔다.

앤트로픽은 등급별 안전장치가 제대로 작동하는지 사이시나리오벤치(CyScenarioBench)로 시험했다.

실제와 유사한 제약 조건에서 모델이 여러 단계로 구성된 사이버 작전을 계획하고 실행할 수 있는지 측정하는 평가다. 복잡한 공격 시나리오가 포함돼 일반과 방어 접근 등급에서는 클로드의 작업이 상당 부분 차단돼야 하고, 레드팀과 특수 접근 등급에선 평가 대상 작업에 대한 차단이 발생하지 않아야 한다.

10개 과제를 각각 5회씩, 총 50회 시도한 결과 일반 모델에선 모든 과제가 차단됐고, 방어 접근 등급에선 46회의 과제가 어느 시점에서 차단됐다.

레드팀 접근에선 차단이 발생하지 않았으며, 클로드 오퍼스 5.5가 50개 과제 가운데 34개를 성공적으로 완료했다. 이는 안전장치를 적용하지 않은 조건에서 측정한 성공률 67.6%와 거의 동일한 수준이다.

앤트로픽은 "이러한 평가 결과를 통해 우리는 고급 사이버 기능을 더 많은 방어 담당자에게 안전하게 제공하면서 프로젝트 글래스윙을 통해 시작한 방어 활동을 확대할 수 있다는 확신을 얻었다"고 밝혔다.

앤트로픽은 그간 글래스윙을 통해 클로드 미토스 모델이 조직 내 시스템의 취약점을 찾는 속도를 크게 높였다는 사실을 확인했다고도 설명했다.

앤트로픽에 따르면 글래스윙 참여 기관은 지난 4월부터 7월까지 최소 12만 9000개의 검증된 소프트웨어 취약점을 찾아냈다. 앤트로픽이 별도로 진행한 오픈소스 소프트웨어 검사에서도 5500개의 취약점이 추가로 발견됐다. 검증된 취약점 가운데 3만 3000건 이상이 '치명적' 또는 '높음' 등급으로 평가됐다.

AI의 사이버 보안 능력이 높아지면서 이에 따른 위험을 우려하는 목소리도 나온다.

JP모건체이스의 제이미 다이먼 최고경영자는 최근 블룸버그TV와의 인터뷰에서 "AI가 우리가 알지 못했던 취약점을 만들어냈다"며 "미토스 이후 AI를 둘러싼 위험이 10배 증가했다"고 주장했다.

다만 AI가 발견한 취약점이 곧바로 실제 해킹에 이용되는 것은 아니라는 지적도 있다.

지난 4월부터 글래스윙이 발견한 것으로 분류된 취약점을 분석한 미국 사이버보안 기업 벌른체크의 패트릭 개리티 보안 연구원은 지난 9월 21일까지 추적한 취약점 225개 가운데 실제 공격이 확인된 것은 한 개에 불과했다며 "취약점을 발견하는 것과 그 취약점이 실제로 공격자에게 유용한지, 또 사용될 것인지는 큰 차이가 있다"고 말했다.

sumin02@news1.kr