[이데일리 한광범 기자] 인공지능(AI)이 해킹 공격을 자동화하면서 사람이 일일이 대응하던 기존 사이버보안 체계가 한계에 부딪힐 것이라는 전망이 나왔다. 기업의 업무를 대신 처리하는 AI 에이전트가 확산하면서 공격자는 이를 새로운 침입 통로로 노리고, 방어 측도 AI를 활용해 공격 속도에 맞서야 한다는 분석이다.

구글클라우드는 10일(현지시간) 크리스 베츠 최고정보보호책임자(CISO) 명의로 발표한 ‘2027년 사이버보안 전망’에서 AI 에이전트가 기업의 업무와 보안 운영을 동시에 바꾸고 있다고 진단했다. 구글과 구글클라우드, 보안업체 맨디언트의 전문가들이 내년 주요 위협과 대응 전략을 제시했다.

보고서는 올해 초만 해도 일부 조직에서 활용하던 대규모언어모델(LLM)과 AI 에이전트 기반 취약점 탐지·수정이 이제 기업 전반으로 확산했다고 평가했다. 소프트웨어 개발 기간도 몇 주에서 며칠, 심지어 몇 시간으로 단축되는 추세다. 공격자 역시 AI를 통해 과거 수개월 걸리던 사전 정찰을 몇 시간 안에 수행하고, 제조사가 파악하기도 전에 취약점을 악용하고 있다는 설명이다.

◇해킹도 방어도 AI가 수행…보안 담당자는 통제 역할

구글클라우드는 내년 기업 보안관제센터(SOC)의 운영 방식이 크게 바뀔 것으로 내다봤다. 지금까지는 보안 시스템이 쏟아내는 수많은 경보를 담당자가 확인하고 여러 도구에서 기록을 취합해야 했다. 그러나 공격자가 몇 분 만에 네트워크를 탐색하고 다른 시스템으로 이동하는 상황에서는 수작업 대응이 속도를 따라가기 어렵다.

앞으로는 방어용 AI 에이전트가 관련 정보를 수집하고 공격 정황을 연관 분석해 실제 대응이 필요한 사건인지 판단한다. 보안 담당자는 개별 경보를 확인하는 대신 대응 원칙과 허용 가능한 위험 수준을 정하고 AI의 조치를 감독하는 역할에 집중한다. 구글은 자동화된 방어 판단을 사람이 60초 이내에 이해하고 30초 안에 되돌릴 수 있는 체계를 제시했다.

구글은 방어 측이 공격자보다 유리한 정보도 갖고 있다고 분석했다. 외부 공격자는 제한된 정보에 의존하지만 기업은 내부 네트워크 구조와 계정별 권한, 코드 변경 이력, 실시간 실행 정보를 파악할 수 있다. 이를 가벼운 상시 탐지 모델과 정밀 분석 모델에 함께 제공하면 각각은 정상적으로 보이는 권한이나 설정이 결합돼 발생하는 위험도 조기에 찾아낼 수 있다는 설명이다.

AI 에이전트의 권한 관리도 새로운 과제로 떠올랐다. 기업에서 수천 개의 에이전트가 계약 협상이나 가격 책정, 공급망 조정 등에 참여하면 하나의 계정에 광범위한 권한을 부여하는 방식은 위험해진다. 외부에서 악성 지시를 주입해 에이전트가 허용되지 않은 작업을 수행하도록 유도할 가능성도 있다.

이에 구글은 기존 ‘제로 트러스트’ 보안을 거래와 개별 작업 단위까지 확장해야 한다고 강조했다. 각 에이전트에 별도 신원과 최소한의 접근 권한을 부여하고, 동일한 요청이라도 당시 상황이 의심스러우면 차단하는 방식이다. 카르틱 나라얀 구글클라우드 최고제품·고객책임자는 AI가 중요한 결정을 내렸다면 입력 정보와 판단 과정, 사용 도구, 실행 권한을 모두 추적할 수 있어야 한다며 이러한 기록 없이는 결과를 검증하거나 신뢰할 수 없다고 지적했다.

◇랜섬웨어 대신 AI 모델 탈취…공급망 공격도 경계

공격 대상도 달라질 것으로 전망됐다. 기존 랜섬웨어가 파일을 암호화하고 복구 대가를 요구했다면, 사이버범죄 조직은 데이터와 AI 모델 자체를 빠르게 훔쳐 협박하는 방식으로 이동하고 있다는 것이다. 기업의 독자적인 모델 가중치와 AI 에이전트 기술, 프롬프트 모음은 물론 클라우드 GPU 연산 자원을 무단으로 이용하는 ‘LLM재킹(LLMJacking)’까지 위험 대상으로 꼽혔다.

실제 맨디언트는 올해 기업의 LLM 접근 권한이 탈취돼 몇 시간 만에 부정한 클라우드 이용요금이 급증한 사례들을 조사했다. 구글 위협정보 조직과 맨디언트는 단 5~10분 동안만 악성 변경을 가해 정기적인 파일 검사망을 피하는 소프트웨어 공급망 공격도 포착했다. 공격이 이뤄지는 시간 자체가 짧아지면서 주기적인 점검만으로는 대응하기 어렵다는 것이다.

AI 코딩 도구가 자동으로 가져오는 오픈소스 라이브러리와 외부 연동 도구도 공격 경로가 될 수 있다. 구글 위협정보 부문의 샌드라 조이스 부사장은 공격자가 AI 모델의 알고리즘만 노리는 것이 아니라 코딩 에이전트가 사용하는 소프트웨어 공급망과 MCP 도구 등에 악성 요소를 심고 있다고 경고했다.

이에 따라 개발 단계에서부터 AI가 취약점과 잘못된 설정을 점검하고, 실제 운영 환경에서 발견한 문제를 원본 코드까지 추적해 검증된 수정안을 제공해야 한다는 제언이다. 다만 충분한 검증 없이 자동으로 보안 패치를 적용하면 오히려 정상 서비스가 중단될 수 있어 안전장치가 필요하다고 덧붙였다.

또 기업이 각 부서에서 AI 에이전트를 제각각 도입하면 중앙에서 통제하지 못하는 ‘에이전트 난립’이 새로운 보안 문제로 번질 수 있다고 봤다. 악성코드 분석, 취약점 탐지, 침해 대응을 담당하는 전문 에이전트들을 협업시키되 언제 자율적으로 움직이고 언제 사람에게 판단을 넘길지 정하는 중앙 관리 체계가 필요하다는 설명이다. 실제 업무에 투입하기 전 공격을 모의 수행하는 ‘레드팀’ 검증도 강조했다.

크리스 베츠 구글클라우드 CISO는 AI 에이전트가 기업 업무를 실시간으로 수행하는 시대에는 서버 장애나 데이터 유출뿐 아니라 에이전트가 내린 결정의 신뢰성까지 보호해야 한다고 강조했다. 구글은 AI를 이용한 공격이 빨라지는 만큼 보안 역시 사람이 경보를 추적하는 방식에서 벗어나 자동화된 방어와 인간의 감독을 결합해야 한다고 전망했다.