[이데일리 김현아· 이소현 기자] 기업의 AI 비용 구조가 달라지고 있다. 직원 한 명에게 월 3만원 안팎의 AI 서비스를 제공하는 것은 시작에 불과하다. AI가 문서를 읽고 코딩하고 검색하는 데 이어 스스로 추론하며 업무를 수행할수록 비용을 좌우하는 것은 구독료만이 아니다. 실제 처리하는 데이터의 양, 즉 토큰 사용량이다.

챗GPT나 클로드 같은 유료 생성형 AI는 월 구독료가 정해져 있지만 기업에서는 업무에 따라 필요한 토큰량이 크게 다르다. 단순 질문과 수백 쪽 문서 분석, 여러 차례 추론을 거치는 에이전트 업무의 비용 차이가 커지는 이유다.

AI 계정만 열어주는 것을 넘어 필요한 만큼 사용할 수 있도록 사용량까지 보장하는 ‘토큰 복지’가 새로운 업무 인프라로 떠오르고 있다. 과거 PC와 인터넷이 업무의 기본 환경이었다면 AI 시대에는 AI 사용권과 충분한 사용량이 생산성을 좌우하는 요소가 된 셈이다.

◇◇ AI 접근성이 생산성 격차로…‘토큰 복지’ 나선 기업들

AI 접근성은 실제 노동 생산성과도 연결된다. 미국 전미경제연구소 연구에서 고객지원 인력이 AI를 활용했을 때 시간당 생산성이 평균 14% 증가했다.

기업들도 AI를 업무 인프라로 보기 시작했다. 쏘카(403550)는 개발뿐 아니라 기획·마케팅 등 전 직원에게 업무용 AI 토큰을 지급하고, 기본 한도를 소진하면 추가 지원한다. KT(030200)는 코파일럿, 챗GPT, 제미나이, 깃허브 코파일럿 등을 업무에 활용하고 반복 업무를 자동화하는 AI 에이전트로 활용 범위를 넓히고 있다.

삼성SDS(삼성에스디에스(018260))는 개인별 AI 사용량을 대시보드로 보여주고 서비스별 활용 현황을 주간 단위로 관리한다. 업무 수준에 맞는 모델 선택 가이드도 제공하며, 10월에는 질의와 업무 수준에 따라 적합한 모델을 자동 선택하는 ‘스마트 라우터’를 도입할 예정이다.

SK텔레콤(017670)은 토큰 사용량 자체를 줄이기보다 품질을 유지하면서 효율을 높이는 데 초점을 맞추고 있다. 긴 대화의 앞부분을 요약하거나 반복 지시문을 재사용하는 프롬프트 캐싱, 검색 범위를 좁히는 검색증강생성(RAG) 최적화 등을 적용하고 있다. 업무별로 필요한 정확도에 따라 토큰을 차등 사용하는 방식도 병행한다.

◇◇ 토큰 복지 늘수록 비용 압박…라우팅·캐싱으로 관리

AI 사용권을 넓힐수록 비용 부담도 커진다. 특히 에이전트가 코딩·검색·계획 수립을 반복하면 한 번의 업무에 필요한 토큰량과 추론 비용도 늘어난다.

기업들은 사용량을 일방적으로 제한하기보다 업무 난이도에 따라 적절한 모델을 선택하고 불필요한 연산을 줄이는 방식으로 대응하고 있다.

LG CNS(LG씨엔에스(064400))는 에이전틱웍스에 모델 라우팅과 프롬프트 캐싱을 적용해 단순 업무는 비용 효율이 높은 모델로, 고난도 분석은 고성능 모델로 연결한다. 자주 쓰는 지시문이나 사내 규정은 저장해 재활용한다.

AI 활용이 늘어날수록 단순한 사용자 수보다 실제 처리량과 비용을 함께 관리해야 투자 효율을 높일 수 있다는 판단이다.

◇◇ ‘모두의 AI’ 성패도 ‘토큰당 생산단가’에 달렸다

기업의 토큰 복지 확대와 국가 차원의 AI 대중화가 지속되려면 토큰당 생산단가를 낮추는 것이 중요하다. 정부가 추진 중인 ‘모두의 AI’ 역시 얼마나 많은 국민에게 AI를 보급하느냐를 넘어 지속 가능한 저비용 추론 구조를 갖추는 것이 과제다. ‘모두의 AI’는 SK텔레콤, KT, 카카오가 12월 출시할 예정이다.

배경훈 부총리 겸 과학기술정보통신부 장관은 최근 KBS ‘일요진단 라이브’에 출연해 “모든 국민이 한글을 깨우치듯 AI를 쓸 수 있어야 한다”며 고급 AI 서비스를 국민 누구나 무료로 이용할 수 있도록 하는 ‘모두의 AI’ 구상을 밝혔다. 이를 뒷받침할 AI 데이터센터와 국산 AI 반도체 NPU 등 컴퓨팅 인프라 투자 확대 필요성도 제시했다.

◇◇ ‘토큰 팩토리’로 진화하는 데이터센터…추론 인프라가 승부처

AI 인프라 업계에서도 경쟁의 기준이 바뀌고 있다. 고가의 GPU를 얼마나 확보했느냐를 넘어 같은 컴퓨팅 자원으로 얼마나 많은 토큰을 얼마나 저렴하게 생산하느냐가 새로운 경쟁력이 되고 있다.

AI 인프라 소프트웨어 전문기업 모레의 조강원 대표는 ‘AI 인프라 서밋 2026’에서 “AI 데이터센터의 경쟁력은 GPU 확보 경쟁에서 같은 자원으로 얼마나 많은 토큰을 저렴하게 생산하느냐로 전환됐다”며 데이터센터가 초고효율로 토큰을 생산하는 ‘토큰 팩토리’로 진화해야 한다고 말했다.

모레는 엔비디아와 AMD, 국산 NPU 등 서로 다른 가속기를 묶어 연산하는 분산 추론 소프트웨어를 선보였다. 토큰 비용 절감은 GPU·NPU뿐 아니라 저전력 데이터센터, 컴파일러와 분산 추론 소프트웨어를 아우르는 인프라 경쟁으로 이어지고 있다.

AI가 전 산업의 기본 업무 인프라가 되면서 ‘얼마나 많은 사람이 AI를 쓰느냐’와 함께 ‘얼마나 효율적으로 AI를 쓰느냐’가 중요해지고 있다. 기업에는 충분한 AI 사용권과 비용 관리가, 국가에는 토큰당 추론 단가를 낮추는 인프라 생태계가 새로운 과제로 떠오르고 있다.