[이데일리 신영빈 기자] 데이터 파운드리 기업 바운드포가 인공지능(AI) API 비용을 실행 전에 통제하는 토큰 지출 관리 서비스를 선보였다. AI 에이전트와 로봇, 디바이스가 24시간 AI를 호출하는 환경에서 예산 초과와 불필요한 비용 발생을 사전에 막는다는 구상이다.

바운드포는 자사 AI 데이터 운영 플랫폼 ‘드로파이’에 AI 토큰 지출 관리 서비스 ‘파레토’를 추가했다고 12일 밝혔다.

최근 생성형 AI와 AI 에이전트 도입이 확산되면서 기업들은 여러 AI 모델과 API를 동시에 활용하고 있다. AI 사용량이 빠르게 늘면서 비용 부담도 새로운 과제로 떠오르고 있다.

특히 AI 에이전트와 로봇, 각종 디바이스가 사람 개입 없이 AI API를 지속 호출하는 환경에서는 토큰 소비 방식도 달라지고 있다. 사람이 직접 사용하는 AI 서비스는 근무 시간이라는 사용 한계가 있지만, 자동화 시스템은 24시간 작동할 수 있어 예상하지 못한 비용이 빠르게 누적될 수 있다.

파레토는 관리자가 설정한 예산 한도를 초과하는 AI API 요청을 실행 전에 차단하는 서비스다. 팀별 사용 현황과 예상 지출을 실시간으로 제공해 비용이 발생하기 전부터 예산을 관리할 수 있도록 지원한다.

파레토의 핵심은 사용 이후 비용을 확인하는 사후 관측이 아니라 한도 초과 자체를 예방하는 사전 통제에 있다. 기업이 정한 예산과 정책을 API 호출 과정에 적용해 불필요한 비용 발생을 막고, AI 에이전트와 자동화 시스템이 설정된 예산 범위 안에서 운영되도록 돕는다.

월 단위 사용 데이터를 분석해 불필요한 지출이 발생하는 주요 패턴도 자동으로 파악한다. 실패한 호출이 반복되며 비용이 쌓이는 재시도 누적, 사실상 동일한 요청이 반복 처리되는 중복 요청, 더 가벼운 모델로 수행할 수 있는 작업에 고성능 모델을 쓰는 과사양 모델 사용 등을 탐지한다.

바운드포는 이를 통해 절감 가능한 영역을 리포트 형태로 제공한다. 드로파이는 이번 서비스 추가로 AI 데이터 운영부터 토큰 지출 관리까지 지원하는 플랫폼으로 기능을 확대하게 됐다.

서비스명 파레토는 전체 결과 대부분이 소수 원인에서 비롯된다는 ‘파레토 법칙’에서 착안했다. AI 토큰 비용 역시 소수의 호출 패턴에 비용이 집중되는 특성을 반영했다는 설명이다.

황인호 바운드포 대표는 “파레토는 피지컬 AI 현장에서 바운드포가 직접 겪은 문제를 해결하는 과정에서 탄생한 서비스”라며 “앞으로도 현장에서 검증한 운영 경험을 서비스로 고도화해 AI 데이터 관리부터 비용 통제까지 기업의 AI 운영 전반을 지원해 나가겠다”고 말했다.