안재만 베슬AI 대표가 15일 강남 드림플러스에서 열린 ‘베슬AI 네오클라우드 전략 발표회’에서 발표하고 있다(사진=윤정훈 기자)
엔비디아의 베라 루빈 NVL72은 루빈 GPU 72개와 베라 CPU 36개를 고속 인터커넥트로 연결하고 HBM4 고대역폭메모리를 탑재한 차세대 랙 단위 컴퓨팅 시스템이다. AI 에이전트 확산으로 급증하는 추론 및 학습 수요에 대응할 핵심 인프라로 꼽힌다.
◇GPU 즉시 수요만 3만장… “확보 즉시 1~2주 내 매진”
베슬AI가 사업 전환과 차세대 인프라 확보에 속도를 내는 배경에는 폭발적인 AI 시장 수요가 있다. 현재 베슬AI가 파악한 고객사들의 GPU 수요는 이미 3만장을 넘어섰으며, 이 가운데 해외 수요 비중이 70~80%에 달한다.
안재만 베슬AI 대표는 “한국에서도 수백 장이 아닌 수천 장 규모의 GPU를 요청하는 기업들이 적지 않다”며 “미국 시장은 한국과 비교하면 최소 수십 배에서 최대 100배가까이 큰 시장”이라고 설명했다.
이어 “현재 GPU 수요가 워낙 강해 신규 GPU 확보 일정이 확정되면 1~2주 안에 판매가 완료될 정도”라고 덧붙였다.
(사진=윤정훈 기자)
이를 뒷받침할 자금 조달도 순항 중이다. 현재 4000억원 규모의 GPU 파이낸싱을 진행하고 있으며, 내년에는 글로벌 투자은행(IB) 및 국내 주요 증권사들과 협력해 2조 원 규모의 추가 자금 조달을 추진한다. 아울러 2028년까지 국내 AI데이터센터도 500MW 규모로 확보를 추진할 방침이다.
◇‘플루이드 컴퓨팅’ 등 기술적 해자… “국내 통신사·클라우드 업와 상생 협력”
베슬AI의 핵심 경쟁력은 단순 하드웨어 확보를 넘어, 분산된 GPU 자원을 하나의 컴퓨팅 환경처럼 운영하는 ‘플루이드 컴퓨팅(Fluid Computing)’ 기술에 있다. 서로 다른 데이터센터에 흩어진 GPU를 통합 관리하고 작업별 최적 자원을 자동 배정해 GPU 유휴 시간을 줄이고 가동률을 극대화한다.
전지환 베슬AI 최고기술책임자(CTO)는 “GPU는 자주 망가지는 물건인데 메타 라마는 모델 학습을 위해 수만장의 GPU 클러스터를 운영하면서 30초에 한 번씩 장애가 발생한다고 한다”며 “플루이드 컴퓨팅 기술을 사용하면 GPU 운영에 필요한 수작업을 약 30% 줄이고 장애 징후의 80% 이상을 사전에 감지할 수 있다”고 했다.
추론 최적화 성과도 가시화되고 있다. 자체 기술을 적용해 AI 모델의 캐시 적중률을 약 2배 높이고, 일부 워크로드의 추론 처리 성능을 최대 3배 가까이 개선했다. 업스테이지의 AI 모델 ‘솔라 프로’ 추론 서비스에도 참여해 하루 약 1450억 개의 토큰을 안정적으로 처리하고 있다.
전지환 베슬AI 최고기술책임자(CTO)가 내년 도입할 엔비디아 DGX 베라루빈 VNL72 클러스터에 대해 설명하고 있다(사진=베슬AI)
안 대표는 국내 사업자들과의 협력 관계를 특히 강조했다. 그는 “국내 통신사나 클라우드 기업들과 반드시 경쟁하는 구도는 아니다”라며 “데이터센터와 하드웨어 운영은 클라우드 사업자들과 협력하고, 베슬AI는 지난 5~6년간 축적한 대규모 GPU 운영 소프트웨어 역량을 바탕으로 역할을 나누며 시너지를 내고 있다”고 설명했다.
이어 “고객이 구매하는 것은 단순한 GPU 실물이 아니라 안정적이고 완성된 대규모 학습·추론 컴퓨팅”이라며 “장애 예측과 자원 최적화라는 기술적 해자를 바탕으로 한국을 대표하는 글로벌 네오클라우드 톱티어로 도약하겠다”고 말했다.
