Arm은 2일 엔비디아와 함께 에이전틱 AI를 안전하게 실행하기 위한 컴퓨팅 구조를 소개했다. AI 에이전트를 실행하는 CPU(중앙처리장치)와 에이전트의 행동을 별도로 감시하고 통제하는 DPU(데이터처리장치)를 나눠 사용하는 것이다.
쉽게 말하면 CPU가 AI 에이전트의 ‘일꾼’이라면 DPU는 독립된 ‘감시자’ 역할을 맡는다.
DPU 역시 엔비디아의 ‘BlueField’처럼 반도체 업체가 제품을 만든다. 다만 BlueField에는 Arm의 ‘Neoverse’ 계열 CPU 코어가 들어간다. 이번 협력의 의미는 Arm이 CPU와 DPU를 모두 직접 만드는 것이 아니라, Arm 기반 CPU와 Arm 코어를 활용한 DPU가 AI 에이전트의 실행과 보안을 각각 담당하도록 컴퓨팅 구조를 확장하는 데 있다.
에이전틱 AI는 기존 챗봇과 달리 스스로 여러 단계의 작업을 수행한다. 필요한 정보를 검색하고 프로그램이나 서비스 같은 도구를 호출하고 기업 내부 데이터에 접근해 결과를 실행할 수도 있다. 에이전트가 많아지고 작업 시간이 길어질수록 CPU 성능뿐 아니라 에이전트가 무엇을 할 수 있는지 통제하는 기능도 중요해진다.
Arm은 CPU가 에이전트의 실행 환경과 작업을 담당한다고 설명했다. 에이전트가 작동하는 과정에서 필요한 도구를 실행하고 애플리케이션과 서비스를 연결하는 역할이다.
반면 DPU는 CPU와 분리된 영역에서 네트워크와 보안 기능을 처리한다. AI 에이전트가 접근할 수 있는 데이터와 자원을 제한하고, 이상 행동이 발생하면 격리할 수 있는 별도의 통제 지점을 제공한다.
엔비디아는 이를 ‘오픈 에이전트 세이프티 플랫폼’으로 구현하고 있다. 에이전트 실행 환경인 ‘오픈셸’과 엔비디아의 DPU ‘블루필드’를 결합해 에이전트가 접근할 수 있는 자원과 행동을 통제하는 방식이다.
특히 블루필드4에는 Arm 네오버스 V2 기반의 CPU 코어 64개가 탑재된다. 여기에 엔비디아의 ‘센트리’가 에이전트의 행동을 감시하고 문제가 발생한 에이전트를 격리하는 역할을 맡는다.
구조는 간단하다. Arm 기반 CPU가 AI 에이전트가 일할 수 있는 컴퓨팅 환경을 제공하고, Arm 코어를 활용한 엔비디아 DPU가 그 바깥에서 네트워크와 보안을 관리한다.
AI가 단순히 답변을 생성하는 단계를 넘어 실제 행동에 나설수록 AI 인프라의 경쟁도 ‘얼마나 빠르게 실행하느냐’에서 ‘AI가 무엇을 할 수 있고 누가 이를 통제하느냐’로 넓어질 전망이다.
