AI가 제멋대로 행동하면?…엔비디아, 강제 차단 기술 공개

IT/과학

이데일리,

2026년 October 21일, PM 08:51

젠슨 황 엔비디아 CEO가 독일 베를린에서 GTC베를린 이틀 전 열린 '인베스트 인 저머니 서밋(독일 투자 정상회의)'에 참석하고 있다. (사진=AFP)
젠슨 황 엔비디아 CEO가 독일 베를린에서 GTC베를린 이틀 전 열린 '인베스트 인 저머니 서밋(독일 투자 정상회의)'에 참석하고 있다. (사진=AFP)
[이데일리 한광범 기자] 엔비디아가 인공지능(AI) 에이전트의 행동을 하드웨어 수준에서 감시하고 통제하는 보안 기술을 공개했다. AI가 사람의 지시 없이 파일과 기업 내부 시스템에 접근해 업무를 수행하는 사례가 늘어나면서 보안 위협도 커지고 있다는 판단에서다. 기업이 보유한 데이터를 활용해 AI 에이전트가 정보를 검색하고 미래 결과까지 예측하도록 지원하는 기술도 선보였다.

엔비디아는 21일(현지시간) 독일에서 열린 ‘GTC 베를린 2026’에서 ‘오픈쉘(OpenShell) 레퍼런스 아키텍처’와 기능을 확대한 ‘엔비디아 에이전트 툴킷’을 공개했다.

오픈쉘은 AI 에이전트가 접근할 수 있는 파일과 네트워크, 소프트웨어 도구 등을 제한하는 보안 실행 환경이다. 이번에 공개한 레퍼런스 아키텍처는 기존 오픈쉘 소프트웨어에 엔비디아의 컴퓨팅·보안 하드웨어를 결합해 기업 전반으로 적용 범위를 확대하는 것이 특징이다.

젠슨 황 엔비디아 CEO는 기조연설에서 “AI 에이전트는 파일과 자원, 네트워크, 도구에 접근할 수 있는 자율 시스템”이라며 “이러한 시스템에는 최소한의 권한만 부여하고 지속적으로 감시해야 한다”고 강조했다.

오픈쉘 레퍼런스 아키텍처. (이미지=엔비디아)
오픈쉘 레퍼런스 아키텍처. (이미지=엔비디아)
◇독립된 보안 영역서 감시…이상 행동 밀리초 단위 차단

새로운 아키텍처는 차세대 AI 컴퓨팅 시스템 ‘베라 루빈(Vera Rubin)’과 ‘베라 CPU’, ‘블루필드-4(BlueField-4)’ 데이터처리장치(DPU)를 결합했다. 베라 루빈이 AI 모델의 추론을 담당하고 베라 CPU가 에이전트의 작업을 관리하는 동안 블루필드-4는 별도의 보안 영역에서 행동을 감시하는 구조다.

특히 블루필드-4에서 실행되는 보안 소프트웨어 ‘센트리(Sentry)’가 핵심이다. AI 에이전트가 허용된 권한을 벗어나거나 비정상적인 행동을 시도하면 하드웨어 수준에서 연결을 차단하고 밀리초 단위로 격리할 수 있다는 설명이다. 보안 통제 기능이 AI 에이전트가 실행되는 환경과 분리돼 있어 에이전트 자체가 침해되더라도 접근 권한을 제한할 수 있다.

황 CEO는 “에이전트에 부여하는 작업과 사용자가 달라질 때마다 필요한 권한도 달라진다”며 “권한 설정과 정책 집행, 감시가 모두 동적으로 이뤄져야 한다”고 설명했다.

엔비디아는 오픈쉘 레퍼런스 아키텍처를 클라우드뿐 아니라 RTX 스파크와 DGX 시스템을 활용하는 기업 내부 및 엣지 환경으로도 확대할 계획이다. 앤트로픽과 오픈AI 등 AI 모델 개발사를 비롯해 마이크로소프트, SAP, 서비스나우, 크라우드스트라이크 등과 협력하고 있다. 레퍼런스 아키텍처는 현재 이용할 수 있다.

AI가 제멋대로 행동하면?…엔비디아, 강제 차단 기술 공개
◇기업 정보 연결해 미래 예측…업무용 AI 활용 고도화

AI 에이전트가 기업 내부 데이터를 보다 효과적으로 활용하도록 지원하는 ‘에이전트 지식 파운데이션(Agent Knowledge Foundation)’도 공개했다. 기업의 문서와 데이터베이스에 저장된 정보를 분석해 AI가 필요한 지식을 찾고 이를 바탕으로 판단하도록 지원하는 기술이다. 엔비디아는 기존 데이터 관리 체계를 유지하면서도 AI 에이전트가 기업 정보를 활용할 수 있도록 설계했다고 설명했다.

새롭게 추가한 ‘쿠모(Kumo)’ 모델 제품군은 기업의 정형 데이터를 바탕으로 미래 결과를 예측하는 역할을 맡는다. 예를 들어 공급업체의 납품 지연 가능성을 파악하고, 이로 인해 영향을 받을 주문이나 대체 부품을 찾는 업무 등에 활용할 수 있다.

실제로 엔비디아는 팔란티어와 협력해 자사 공급망 조직에 관련 기술을 적용하고 있다. 데이터브릭스와 스노우플레이크도 쿠모 기반 예측 기능을 활용하거나 고객에게 제공하는 방안을 추진하고 있다. 엔비디아는 이처럼 기업 데이터와 전문 소프트웨어, 보안 기술을 결합해 AI 에이전트가 단순한 질문 응답을 넘어 실제 업무를 수행하는 환경을 구축한다는 구상이다.

황 CEO는 “AI의 역량과 안전성은 함께 발전해야 한다. 기업들이 수십억 개의 AI 에이전트 배포를 준비하는 만큼 안전성과 제어 기능은 컴퓨팅 아키텍처 자체에 내재돼야 한다”며 “오픈쉘을 통해 에이전트는 루빈에서 사고하고, 베라에서 행동하며, 블루필드에서 통제된다”고 강조했다.

추천 뉴스