베르너 포겔스 아마존 최고기술책임자(CTO)(사진=아마존 뉴스 유튜브 갈무리)
포겔스 CTO는 AI 활용이 빠르게 확산하고 있지만, 기업 입장에서는 모델 사용료와 인프라 비용이 큰 부담으로 작용하고 있다고 짚었다. 그는 이러한 비용 압박이 기업들로 하여금 독점 AI 시스템 대신 오픈소스 모델을 검토하게 만드는 핵심 요인이라고 설명했다.
그는 “비용은 AI 시스템 설계에서 매우 중요한 요소”라며 “정말 가장 크고 최고 성능의 모델이 필요한지 따져봐야 한다. 대부분의 경우 답은 ‘아니다’”라고 말했다.
최근 기업들의 AI 운영 비용이 급증하면서 가장 성능이 높은 대형언어모델(LLM) 활용 전략을 재검토하는 사례가 늘고 있다. 포천은 우버가 올해 AI 예산을 4개월 만에 모두 소진했고, 일부 기업은 직원들의 AI 사용량을 제한하지 못해 한 달에 5억달러를 지출한 사례도 나오면서 업계 전반에 비용 부담에 대한 우려가 커졌다고 전했다.
토큰(Token) 단위로 과금하는 오픈AI, 앤트로픽, 구글 딥마인드 등의 최첨단 모델은 뛰어난 성능을 제공하지만, 대규모로 운영할 경우 비용 부담이 크게 늘어난다.
반면 오픈소스(오픈웨이트) 모델은 무료로 내려받아 자체 클라우드 인프라에서 운영할 수 있어 컴퓨팅 비용이 발생하더라도 전체 운영비는 상대적으로 낮은 경우가 많다고 포천은 설명했다.
포겔스 CTO는 AI 도입 전략이 성숙 단계에 접어들면서 기업들이 성능뿐 아니라 투자 대비 효과(ROI)를 본격적으로 따지기 시작했다고 진단했다.
그는 비용뿐 아니라 AI의 투명성과 신뢰성도 오픈소스 모델이 주목받는 이유라고 강조했다. 포겔스 CTO는 “투명성은 매우 중요하다”며 “기업들은 AI가 어떤 데이터로 학습됐는지 알고 싶어 한다”고 말했다.
이어 의료, 정부, 인도주의 분야에서는 AI가 어떻게 학습됐고 어떤 방식으로 의사결정을 내리는지 이해하는 것이 성능만큼 중요하다며 “취약계층을 지원하는 기관들이 시스템을 신뢰하지 못하면 결국 사용하지 않게 된다”고 말했다.
오픈소스 모델은 개발자가 모델을 직접 수정하거나 자체 데이터로 추가 학습시키기 쉬워 이러한 요구에 상대적으로 적합하다고 포겔스 CTO는 설명했다. 다만 대부분의 오픈웨이트 모델 역시 최초 학습에 사용한 데이터를 모두 공개하는 것은 아니라고 포천은 덧붙였다.
최근 업계에선 AI 도입 경쟁이 단순히 가장 강력한 모델을 쓰는 단계에서 비용과 성능, 규제 리스크, 운영 유연성을 함께 따지는 단계로 이동하고 있다.
씨티 리서치에 따르면 일부 중국 AI 모델의 이용 요금은 100만 토큰당 18센트 수준인 반면, 오픈AI와 앤트로픽 등 고가의 주요 독점 모델의 평균 요금은 4달러 수준으로 제시됐다. 오픈라우터의 저스틴 서머빌은 CNBC에 오픈소스 및 중국산 AI 모델이 오픈AI, 앤트로픽 등 주요 독점 AI 시스템보다 60~90% 저렴할 수 있다고 말했다.
성능 격차가 좁혀지고 있다는 평가도 나온다. 브루킹스연구소 존 L. 손턴 중국센터의 카일 챈 연구원은 중국 AI 모델의 기술 수준이 미국 최첨단 시스템보다 6~9개월가량 뒤처진 수준으로 추정된다고 봤다.
오픈소스 AI 확산 흐름은 알리바바의 큐원(Qwen) 모델에서도 확인된다. 큐원은 올해 초 허깅페이스에서 누적 다운로드 10억건을 돌파하며 메타의 라마(Llama)를 넘어 세계에서 가장 많이 다운로드된 오픈소스 AI 모델 계열로 자리 잡았다. 큐원은 하루 평균 약 110만건 다운로드되고 있으며, 20만개 이상의 파생 모델을 낳은 것으로 알려졌다. AI 연구기관 인터커넥츠 AI 조사에 따르면 큐원은 지난 2월 한 달에만 1억5360만건 다운로드를 기록했다. 이는 메타, 딥시크, 오픈AI 등 주요 업체들의 다운로드 수를 크게 웃도는 수준이다.
오픈소스 모델로의 전환에는 규제 불확실성도 영향을 미치고 있다. 미국 정부가 국가 안보와 기술 통제 등을 이유로 첨단 AI 모델의 배포와 활용을 제한하려는 움직임을 보이면서, 기업들은 특정 독점 생태계에 의존하지 않는 대안을 찾고 있다.
