신정규 래블업 대표. (사진=래블업)
신정규 래블업 대표는 지난 10일 서울 삼성동 코엑스에서 열린 엔비디아 AI 데이 현장에서 이데일리와 만나 AI 인프라 운영 기술에 대한 자신감을 드러냈다. 래블업은 기업이 보유한 GPU와 서버를 통합 관리하고, AI 개발과 서비스에 필요한 자원을 효율적으로 배분하는 소프트웨어 기업이다.
신 대표의 자신감은 제조사마다 다른 장비를 오래 다뤄온 경험에서 나온다. 그는 “엔비디아와 AMD 모두 해마다 규격을 바꾼다”며 “공통적인 부분만 지원하면 최적화에 한계가 있지만, 우리는 장비별 최적화까지 할 수 있다”고 말했다. 여러 제조사의 장비를 하나의 플랫폼에서 운영하면서 개별 성능까지 살리는 것이 강점이라는 설명이다.
래블업은 국내외 120곳 이상의 사업장에서 플랫폼을 운영하고 있으며, 단일 사업장에서 GPU 2000개 이상을 운영한 경험도 확보했다. 회사가 공개한 고객사 적용 사례에서는 GPU 활용률이 30%에서 85%로 높아지고 관련 예산은 40% 절감됐다.
엔비디아와의 협력은 2018년부터 이어졌다. 당시 엔비디아 인셉션 어워드 대상을 수상했고, 2021년에는 아시아태평양 지역 최초로 DGX-레디 소프트웨어(Ready Software) 파트너에 선정됐다. 최근에는 데이터센터 전체를 다루는 DSX 관련 교육 절차도 밟고 있다. 신 대표는 “과거에는 GPU 한 장을 효율적으로 쓰는 게 핵심이었다면, 지금은 수백·수천 장을 하나의 프로그램으로 운영하는 문제를 풀고 있다”고 말했다.
인텔과도 2년 반째 하드웨어 최적화 작업을 진행하고 있다. 내년 출시 예정인 GPU ‘크레센트 아일랜드’의 통합·최적화와 AI 모델을 보호하는 컨피덴셜 컴퓨팅 분야에서 협력 중이며, 신 대표는 관련 성과가 내년쯤 나올 것으로 예상했다.
◇금융·자동차까지 AI 확산…GPU 관리 수요 급증
이런 기술은 실제 고객 확대로도 이어지고 있다. 신 대표는 올해 성장세가 두드러진 분야로 금융과 자동차를 꼽았다. 신한은행의 대국민 서비스 ‘슈퍼 SOL’에 래블업의 AI 플랫폼이 활용되고 있으며, 현대모비스는 내부 연구·개발과 코딩을 위해 GPU를 사용하고 있다는 설명이다.
클라우드 사업자 위주였던 고객층이 자체 AI 서비스를 운영하는 일반 기업으로 넓어지고 있다. 고객이 GPU를 추가 도입하거나 고성능 장비로 교체하면 라이선스 매출도 증가하는 구조다. 래블업의 2025년 반복매출 비중은 94.7%에 달했다. 신 대표는 “작은 규모로 시작했던 고객들이 지난해 하반기부터 규모를 키우기 시작했다”며 “GPU가 연구뿐 아니라 실제 업무에 쓰이면서 특히 AI 추론 쪽에서 성장이 커지고 있다”고 전했다.
사업 확대의 다음 단계는 해외 시장이다. 신 대표는 “해외 매출을 높이는 게 1차 목표”라며 “한국 시장은 전체 시장의 2% 정도여서 훨씬 더 성장할 여력이 있다”고 밝혔다. 래블업은 미국에 법인을 설립하고 영국·싱가포르 기업들과도 파트너십을 맺었다.
현재는 해외 협력사들이 제품 판매와 공급, 기술 서비스까지 직접 담당할 수 있도록 교육 중이다. 신 대표는 인사이트(Insight)와 아맥스(AMAX)가 내년 초부터 판매를 시작할 것으로 예상했다. 싱가포르는 말레이시아·인도네시아·호주를 아우르는 진출 거점으로 활용한다. 미국에서는 엣지 데이터센터 수요가 늘면서 현지 판매 파트너들도 관련 고객을 공략하고 있다고 했다.
◇AI 에이전트 시대 대비…소형 AI 시장까지 공략
해외 시장에 맞춰 제품 구성도 손봤다. 플랫폼 전체를 도입하는 대신 필요한 기능을 기존 시스템과 결합할 수 있도록 한 것이다. 신 대표는 “지난 1년 반 동안 제품을 조합 가능한 구조로 만드는 작업을 해왔다”고 설명했다. 최근 코스닥에 상장한 래블업은 2029년까지 세운 사업 계획의 큰 방향은 유지한다는 방침이다.
기존 제품의 해외 판매와 별개로 새로운 AI 수요를 겨냥한 개발도 진행 중이다. 래블업은 GPU 운영 플랫폼 ‘백엔드닷AI’에 이어 AI 추론 시스템을 관리하는 ‘컨티넘’, AI 모델 실행을 최적화하는 ‘MLxcel’을 선보였다. 올해 말에는 AI 에이전트의 자원 사용과 보안을 관리하는 CPU 가상화 솔루션 ‘누빔(NeuVM)’의 베타 테스트를 시작할 예정이다.
신 대표는 누빔에 대해 “에이전트가 자원을 과도하게 사용하거나 다른 에이전트에 영향을 주지 않도록 관리하고 보안을 강화하는 기술”이라고 설명했다. AI 에이전트의 업무 활용이 늘수록 여러 에이전트를 안전하게 운영할 필요도 커진다는 판단이다.
더 장기적으로는 대형 데이터센터가 아닌 소형 시스템에서도 고급 AI 모델을 실행하는 시장에 진출한다. 신 대표는 “2~3년 후에는 일상적으로 사용하는 AI는 클라우드까지 필요하지 않을 것”이라며 “1000만~1500만원 정도의 워크스테이션급 장비로도 상당히 많은 작업을 처리할 수 있을 것”이라고 내다봤다. 래블업은 이를 위해 PC와 워크스테이션 등에서 AI 모델을 실행·배포할 수 있는 ‘백엔드닷AI:GO’를 개발했다.
한편, 래블업은 12일 열리는 ‘이데일리 AI코리아 대상’에서 과학기술정보통신부 장관상(AI 기술 부문)을 수상한다.
