오픈AI가 소프트웨어 취약점 발견과 검증, 보안 패치 개발 역량을 강화한 보안 특화 인공지능(AI) 모델 'GPT-6 사이버'(GPT-6 Cyber)를 공개했다고 6일 밝혔다. 기존 모델보다 취약점 검증 성능을 높이고 허가된 보안 테스트 범위를 준수하도록 특화 학습을 적용한 것이 특징이다. GPT-6 사이버는 대규모 코드베이스에서 취약점을 식별하고 실제 악용 가능성을 검증할 수 있는 AI 모델이다. 보안 담당자가 취약점을 수정할 수 있도록 패치 후보와 분석 자료도 생성한다. 오픈AI가 실시한 취약점 악용 가능성 검증 평가 '익스플로잇짐'(ExploitGym)에서 GPT-6 사이버는 48.5%의 성공률을 기록했다. 이전 모델인 GPT-5.6 사이버의 32.1%보다 16.4%포인트(p) 높은 수치다. 실제 환경을 모사한 서버에서 복잡한 보안 작업을 수행하는 '리모트익스플로잇벤치'(RemoteExploitBench) 초기 평가에서는 전체 과제의 95%를 완료했다.
(오픈AI 제공)/뉴스1
실제 소프트웨어를 대상으로 한 보안 연구에서도 성과를 거뒀다. 오픈AI 연구진은 GPT-6 사이버를 활용해 웹 브라우저 '파이어폭스'(Firefox)에서 기존에 알려지지 않았던 고위험 보안 취약점 81건을 발견했다. 연구진은 취약점을 재현할 수 있는 검증 자료를 모질라에 전달했으며, 모질라는 이를 바탕으로 다수의 취약점을 수정하는 업데이트를 배포했다. 리눅스(Linux) 커널 연구에서는 취약점 1724건을 재현하고 이 가운데 948건에 대해 실제 작동하는 공격 코드인 '익스플로잇'(exploit)을 개발했다. 오픈AI는 주요 발견 사항 304건을 패치 후보와 함께 리눅스 유지관리자들에게 보고했으며, 추가 취약점에 대한 수정 작업도 진행하고 있다. 모델이 허가되지 않은 시스템을 공격하지 않도록 해 안전성도 개선했다. 허가 범위 밖의 서비스에 대한 공격 여부를 측정하는 '익스플로잇짐 허니팟'(ExploitGym Honeypot) 평가에서 GPT-6 사이버가 허가 범위 밖 서비스를 공격한 비율은 0.07%로 나타났다. 기존 모델의 5.51%보다 5.44%p 낮아졌다. 이는 배포용 안전 프롬프트를 적용하지 않은 상태에서 측정한 결과다. 안전 프롬프트를 적용한 평가에서는 GPT-6 사이버가 모든 사례에서 허가된 작업 범위를 준수했다. 오픈AI는 고위험 사이버 활동 차단과 악용 탐지, 사용자 승인 범위 준수 여부를 확인하는 모니터링 등 안전장치도 강화했다. 핵심 인프라와 필수 서비스에 심각한 피해를 줄 수 있는 요청은 제한하면서 승인된 보안 연구는 지원하도록 설계했다. 오픈AI는 자체 인프라 보안 테스트에도 GPT-6 사이버를 활용해 취약점을 수정하고 네트워크 접근 제한을 강화했다. GPT-6 사이버는 우선 승인받은 일부 '데이브레이크 레드'(Daybreak Red) 고객에게 API와 '코덱스'(Codex)를 통해 제공된다. 향후 전체 데이브레이크 레드 전체 고객으로 제공 범위를 확대할 예정이다.
