(사진=AFP)
여러 AI 모델을 한곳에서 골라 쓰게 해주는 중개 서비스의 사용량에서도 변화가 확인된다. 미국 클라우드 업체 버셀의 ‘AI 게이트웨이’에서 처리된 전체 토큰 중 오픈웨이트 모델 비중은 지난해 12월 7%에서 올해 8월 56%로 뛰었다. 또 다른 중개 플랫폼 오픈라우터에서도 처리량 상위 10개 모델을 중국산 오픈웨이트 모델이 휩쓸었다.
오픈웨이트 모델은 AI의 응답 방식을 결정하는 매개변수(파라미터)를 공개한 모델이다. 기업이 내려받아 자체 서버에서 돌리고 고칠 수 있어 토큰(AI가 처리하는 데이터 단위)당 요금을 내지 않아도 되고, 성능도 폐쇄형에 견줄 만한 경우가 많다.
이 시장은 중국 업체들이 장악했다. 딥시크·즈푸 등은 오픈AI·앤스로픽보다 훨씬 싼 값에 토큰을 직접 팔아 수익을 낸다. 특정 하드웨어에 이용자를 묶어두거나 광고를 팔려고 모델을 무료 배포하는 곳도 있다. 프랑스 미스트랄, 미국 엔비디아·리플렉션AI·싱킹머신스랩도 개발 경쟁에 가세했다.
가장 큰 이유는 비용이다. 매치그룹 산하 데이트앱 틴더의 비나이 쿠루빌라 최고기술책임자(CTO)는 “1월엔 연간 100만달러(약 13억6000만원) 수준이던 AI 지출이 7월엔 1000만달러(약 136억원)로 불었다. 또다시 10배 늘어나는 건 원치 않는다”고 말했다. 틴더는 비기술 이용자의 일부 질문을 오픈웨이트 모델로 돌리기 시작했다. 그는 “오픈AI의 아스트라, 클로드 페이블 같은 최첨단 모델은 이미 우리 업무의 90%를 처리할 만큼 똑똑하다. 오픈웨이트가 따라잡으면 더는 쓸 필요가 없을 수도 있다”고 덧붙였다.
AT&T는 AI 작업의 약 40%를 오픈 모델로 돌리고 있으며 1년 안에 70%로 늘릴 계획이다. 앤디 마커스 최고데이터·AI책임자는 “하루 450억개 토큰을 처리하는 규모에선 비용이 매우 중요하다. 정확도를 유지하면서 훨씬 싸게 운영할 수 있다면 옮길 것”이라며 “오픈 모델이 점점 좋아져 선택지가 넓어지고 있다”고 말했다. AT&T는 자사 데이터로 오픈 모델을 조정해 특정 업무에선 폐쇄형과 같거나 더 나은 성능을 끌어내고 있다.
다만 비용만이 갈아타는 이유의 전부가 아니다. 데이터센터 업체 디지털리얼티는 데이터 주권·보안을 이유로 자체 인프라에서 오픈웨이트 기반 사내 채팅 서비스를 운영한다. 업무의 민감도와 복잡도에 따라 오픈형과 폐쇄형을 섞어 쓴다.
스콧 월리스 솔루션 아키텍처 담당 글로벌 선임이사는 “최첨단 모델엔 넣지 않을 자사 데이터를 이 비공개 모델에 넣고 있다. 고객 데이터는 절대, 절대, 절대 최첨단 모델에 넣지 않는다”고 강조했다.
이런 흐름은 기업가치 2조달러(약 2718조원) 이상을 목표로 기업공개(IPO)를 준비 중인 앤스로픽, IPO를 내년으로 미루고 1조2000억달러(약 1631조원) 가치로 투자 유치를 추진 중인 오픈AI의 매출 성장을 위협할 수 있다는 분석이다.
투자자들이 기업의 AI 지출 배분을 주시하는 이유다. 아직은 두 회사가 AI 지출 대부분을 차지하며, 이들의 막대한 컴퓨팅 수요가 미국 경제를 떠받치는 데이터센터 건설 붐을 이끌고 있다. 다만 양사는 중국 업체들과 가격 전쟁이 격화하자 지난주 주력 모델의 저가 버전을 내놨다.









