초고성능 인공지능(AI) 기술을 개발·제공하는 유망 AI 기업 50곳 중 절반 이상에서 치명적인 보안 취약점이 발견됐다. 전 세계 AI 기업 1만8000여 곳을 대상으로 한 조사에서도 3곳 중 1곳에서 치명적 취약점이 확인되면서 AI 산업 전반의 보안 관리에 대한 우려가 커지고 있다.

최근 미국 보안업체 블랙카이트가 전 세계 AI 기업 1만8160곳의 외부 보안 상태를 평가한 결과, 포브스가 선정한 유망 AI 기업 50곳 중 26곳(52%)에서 치명적인 미패치 취약점이 발견됐다.

블랙카이트에 따르면, 조사 대상 AI 기업 3곳 중 1곳(34.2%)에서 치명적 심각도에 해당하는 공개 취약점이 최소 하나 이상 발견됐다.

이 중 1771개 기업(9.8%)에서는 미국 사이버보안·인프라보안청(CISA)이 실제 공격에 활용됐다고 밝힌 '알려진 악용 취약점 목록'(KEV)에 포함된 취약점을 최소 하나 이상 보유하고 있었다.

서버에 저장된 데이터를 암호화해 접근하지 못하도록 하는 랜섬웨어 공격 위협도 확인됐다. 블랙카이트가 랜섬웨어 공격 취약성을 측정하기 위해 개발한 '랜섬웨어 취약성 지수'(RSI)에서 심각 위험 기준인 0.4 이상을 기록한 AI 기업은 전체의 29.7%였다. 이 중 RSI 0.6 이상의 고위험 구간에 속한 AI 기업은 11.5%에 달했다.

일부 기업에서는 보안상 이상 징후도 관찰됐다.조사 대상 AI 기업의 44.3%에서 평소와 다른 네트워크 통신 활동이 발견됐다. 이와 별도로 6.5%의 기업에서는 '봇넷' 활동과 연관된 것으로 보고된 IP 주소를 보유하고 있었다. 봇넷은 해커가 악성코드에 감염시켜 원격으로 조종하는 서버의 집합이다. 14곳(28%)에서는 기업 계정 정보가 정보 탈취 악성코드에 의해 수집된 정황도 파악됐다.

블랙카이트의 최고연구·정보책임자(CRIO)인 페르하트 딕비이키는 "매우 정교한 AI 기술을 개발하는 기업들이 치명적인 보안 취약점을 패치하지 않고, 민감한 시스템에 접근할 수 있는 계정 정보를 노출하고 있다"며 기본적인 보안 관리에 미흡하다고 지적했다.

더 큰 문제는 이러한 AI 기업들의 보안 취약점이 개별 기업의 피해로 끝나지 않고, 고객사의 시스템에 접근하는 공격 통로가 될 수 있다는 점이다.

딕비이키 CRIO는 "기업들이 AI 공급업체에 데이터와 애플리케이션, 인프라에 대한 더 많은 접근 권한을 부여할수록 해당 공급업체의 보안 취약점까지 함께 떠안게 된다"고 밝혔다.

기업들이 AI 공급업체에 광범위한 접근 권한을 부여하는 만큼, AI 공급업체의 취약점이 소프트웨어와 서비스 공급망을 타고 확산할 수 있다는 지적이다.

최근 앤트로픽에서 발생한 기업용 계정 정보 유출 사고는 외부 소프트웨어의 보안 취약점이 AI 기업의 내부 시스템까지 위협할 수 있다는 점을 보여준다.

지난달 31일 앤트로픽은 자사의 AI 서비스 클로드를 이용하는 국내 기업용 계정 112개의 정보가 유출됐다며 개인정보보호위원회에 신고했다.

이번 유출은 외부 보안업체가 앤트로픽의 내부 시스템에 무단 접근하며 발생한 것으로 추정된다. 앞서 워싱턴포스트(WP)는 지난달 26일(현지시간) 캐시드럴이 앤트로픽의 업무용 소프트웨어 취약점을 악용해 내부 시스템에 접근했다고 보도한 바 있다.

캐시드럴은 미국 주요 AI 기업들의 보안 취약성을 드러내기 위해 앤트로픽 시스템에 접근했다고 설명했다. 캐시드럴의 보고서 초안에 따르면 AI 에이전트는 12시간 만에 앤트로픽 내부에 회의록과 급여·채용 정보, 첨단 AI 모델 관련 슬랙 메시지 등 민감한 내부 데이터에 접근할 수 있는 경로를 찾아냈다.

앤트로픽은 이번 사고로 클로드 기업 계정 사용자의 계정·조직 ID와 요금제 등급, 서비스 이용량 및 지출 지표 등이 노출됐을 가능성이 있다고 밝혔다.

개인정보위는 지난 10일 해당 사건에 대한 본격 조사에 착수했다.

sumin02@news1.kr