오픈AI는 현지시간 8월 7일 공식 블로그를 통해 아스트라가 자체 ‘프리페어드니스 프레임워크(Preparedness Framework)’의 사이버보안 분야에서 최고 위험등급인 ‘크리티컬(Critical)’ 임계값에 도달했을 가능성이 있다고 밝혔다.
이에 따라 관련 내부 연구와 테스트에 대한 보안 조치를 강화하고 개발·평가 환경을 외부 네트워크와 도구 접근이 제한된 격리 환경으로 전환했다. 샌드박스 실행 환경과 모델 가중치 보호를 강화하고 고위험 행동을 실시간으로 탐지하는 자동화 모니터링도 적용했다.
사진=셔터스톡
◇아스트라, 사이버보안 최고 위험등급 가능성
오픈AI의 프리페어드니스 프레임워크는 프런티어 AI의 고위험 역량을 로우·미디엄·하이·크리티컬 4단계로 평가한다.
크리티컬은 AI가 사람의 도움 없이 실제 환경의 보안이 강화된 핵심 시스템에서 작동하는 제로데이 취약점을 찾아내고 개발할 수 있는 수준을 뜻한다. 높은 수준의 목표만 주어져도 새로운 사이버 공격 전략을 처음부터 끝까지 고안하고 실행하는 능력도 포함된다.
기존 모델들이 사이버보안 분야에서 하이 수준으로 평가된 것과 비교하면 아스트라의 위험 수준이 한 단계 높아질 가능성이 제기된 셈이다.
◇해킹 특화 모델 아닌데 사이버 능력 발현
아스트라가 주목받는 또 다른 이유는 애초부터 해킹에 특화된 모델이 아니라는 점이다.
하정우 전 대통령실 AI 미래기획수석비서관은 최근 페이스북을 통해 “이 모델은 보안특화 AI가 아니다. 코딩과 문제해결능력이 워낙 출중해서 문제해결을 위한 방법으로 사이버 공격·방어 능력이 발현되는 것”이라고 지적했다.
AI의 코딩·추론 능력이 고도화되면서 특정 분야를 직접 학습하지 않더라도 복잡한 문제를 해결하는 과정에서 사이버 공격·방어 능력이 나타날 수 있다는 설명이다.
하 전 수석은 아스트라의 크리티컬 가능성과 관련해 조기 테스트에서 해당 조건을 충족한 것으로 보인다며 외부 기관과 추가 검증이 필요하다고 밝혔다.
◇수학 난제 해결 등 능력 확장
아스트라는 사이버보안뿐 아니라 수학과 이론 컴퓨터과학 분야에서도 주목받고 있다.
오픈AI는 최근 아스트라 내부 버전을 활용해 고차원 기하학, 부호 이론, 군론, 양자 복잡도, 격자 암호학 등 10개 난제에서 새로운 결과를 얻었다고 발표했다.
다만 실제 학문적 성과로 인정받기 위해서는 전문가들의 검증이 필요하다는 지적도 나온다.
◇AI 안전·방어체계 강화해야
프런티어 AI의 능력이 빠르게 높아지면서 기업 자체 평가만으로는 한계가 있다는 지적도 제기된다.
하정우 전 대통령실 AI미래기획수석은 AI 기업과 정부·학계가 함께 참여하는 공공·중립적 AI 안전평가 체계가 필요하다며 한국 역시 프런티어 AI 경쟁력과 함께 AI 안전 연구와 사이버 방어 역량을 강화해야 한다고 강조했다.
특히 AI의 위험성을 이유로 물리적 망분리나 폐쇄망 중심의 보안정책으로 회귀해서는 안 된다고 지적했다. AI의 행동을 실시간으로 평가하고 통제할 수 있는 기술과 제도를 갖추는 것이 중요하다는 것이다.
아스트라 사례는 AI의 코딩과 추론 능력 향상이 예상하지 못한 사이버 공격 능력으로 이어질 수 있음을 보여준다. 프런티어 AI 경쟁이 치열해질수록 모델 성능뿐 아니라 새로운 능력과 위험을 조기에 발견하고 통제하는 안전·보안 역량도 핵심 경쟁력으로 부상할 전망이다.
