오픈AI 로고 . (사진=AFP)
일론 머스크의 스페이스X도 신규 모델 ‘그록 4.5’가 앤스로픽의 유사 모델보다 토큰 효율성이 두 배가량 높다고 강조했다. 토큰은 AI 모델이 텍스트와 데이터를 처리하는 기본 단위로, 토큰 사용량이 줄어들수록 고객이 부담하는 비용도 낮아진다.
메타도 ‘뮤즈 스파크 1.1’의 가격을 공격적으로 책정하겠다는 방침을 내놨다. 마크 저커버그 메타 최고경영자(CEO)는 블룸버그와의 인터뷰에서 “일부 AI 연구소의 가격은 지나치게 높다”며 “최첨단 또는 이에 준하는 수준의 AI를 훨씬 저렴한 가격에 제공할 수 있다고 본다”고 말했다.
AI 개발사들이 비용 효율성을 전면에 내세운 것은 기업 고객들의 AI 지출 관리가 강화되고 있기 때문이다. 올해 초까지만 해도 상당 수의 기업은 AI 도입이 지연되면 살아남을 수 없다는 인식 하에 AI를 최대한 많이 사용하는 ‘토큰 맥싱’을 독려했다.
그러나 최근에는 예상보다 많은 AI 사용료가 청구되면서 이용 한도를 설정하거나 비용 통제를 강화하는 기업이 늘고 있다. 특히 앤스로픽 등 일부 AI 기업이 정액제에서 사용량 기반 과금 체계를 확대하면서 기업들의 비용 부담이 커졌다는 분석이 나온다. 여러 AI모델을 단일 API(응용프로그램인터페이스)로 쓸 수 있는 라우팅 서비스 이용도 확대되고 있다.
프랑스 파리 소재 AI 스타트업 H컴퍼니의 고티에 클루아 CEO는 오픈AI와 앤스로픽 모델을 사용한 뒤 상당한 규모의 비용을 부담하게 된 기업 경영진들과 대화를 나눴다고 밝혔다. 클루아 CEO에 따르면 한 기업은 한 달간 AI 모델을 사용한 비용으로 수백만달러 규모의 청구서를 받았다.
길 루리아 DA데이비슨앤컴퍼니 기술연구책임자는 “기업이 AI에 많은 돈을 쓰고 있다”며 “비용 통제가 불가능해지자 효율성에 대한 의문을 제기하기 시작했다”고 밝혔다.









