[이데일리 한광범 기자] “누구나 AI를 쉽고 저렴하고 편하게 사용할 수 있도록 하는 것이 목표입니다. 모든 사람이 지능을 저렴하게 이용하고, 이를 개발하거나 공급하는 과정에서 기술적 장벽을 제거해 나가겠습니다.”

신정규 래블업 대표는 12일 서울 JW 메리어트 동대문에서 열린 ‘이데일리 AI코리아 대상’ 시상식에서 과학기술정보통신부 장관상(AI 기술부문)을 수상한 뒤 기업 발표를 통해 이같은 포부를 밝혔다. AI 개발과 서비스 운영에 필요한 복잡한 기술을 누구나 쉽게 활용할 수 있도록 만들겠다는 것이 래블업이 추구하는 방향이다.

2015년 설립된 래블업은 GPU를 비롯한 AI 반도체를 효율적으로 활용하도록 돕는 소프트웨어 기업이다. 주력 제품인 ‘백엔드닷AI(Backend.AI)’는 여러 서버에 흩어진 GPU를 통합 관리하고 AI 개발부터 학습, 실제 서비스 운영까지 필요한 연산 자원을 자동으로 배분하는 플랫폼이다.

신 대표는 “GPU의 복잡성을 편안함으로 덮어 대규모 GPU 클러스터를 쉽게 AI 클라우드로 바꾸는 솔루션을 만들었다”며 “AI를 개발하고 서비스하는 과정을 자동화하고 단순화해 비용을 절감할 수 있도록 다양한 기술을 제공하고 있다”고 설명했다.

◇비싼 GPU 나눠 쓰고 묶어 쓰고…AI 활용 문턱 낮춰

래블업이 AI 활용 비용을 낮추기 위해 개발한 핵심 기술은 GPU 가상화와 통합 관리다. 하나의 GPU를 여러 작업이 나눠 쓰도록 하거나, 반대로 수백·수천 개의 GPU를 묶어 대규모 AI 모델 학습에 활용할 수 있도록 한다. 필요한 만큼 연산 자원을 배분하고 사용이 끝나면 회수해 다른 작업에 활용하는 방식이다.

이를 위해 GPU 분할가상화 기술과 독자적인 자원 관리 엔진 ‘소코반(Sokovan)’을 개발했다. GPU뿐 아니라 메모리와 저장장치까지 통합 관리해 대규모 AI 시스템을 효율적으로 운영하도록 지원한다.

특정 제조사에 종속되지 않는 것도 강점이다. 엔비디아뿐 아니라 AMD·인텔, 리벨리온·퓨리오사AI 등 국산 AI 반도체까지 다양한 제품을 지원한다. 래블업은 발표자료에서 9종 이상의 AI 가속기와 5종 이상의 고속 스토리지를 하나의 플랫폼에서 운영할 수 있다고 소개했다.

이러한 기술은 실제 산업 현장에서도 성과를 내고 있다. 현재 120곳 이상의 기업과 기관이 래블업 플랫폼을 활용하고 있으며, 단일 사업장에서 GPU 2000개 이상을 운영한 경험도 확보했다. 회사가 공개한 고객사 적용 사례에서는 GPU 활용률이 30%에서 85%로 높아졌다. 엔비디아 B200 GPU 504개를 활용한 대규모 AI 학습 환경에서는 73일간 중단 없이 시스템을 운영했다.

신 대표는 오랫동안 다양한 하드웨어 환경에서 발생하는 문제를 해결하며 쌓아온 경험을 경쟁력으로 꼽았다. 래블업은 엔비디아의 DGX-레디 소프트웨어(Ready Software) 파트너로 활동하고 있으며 인텔을 비롯한 반도체·스토리지·클라우드 기업들과도 기술 협력을 이어가고 있다.

◇오픈소스로 누구나 접근…AI 서비스 전반으로 확장

래블업은 누구나 기술을 활용할 수 있도록 오픈소스를 사업의 기반으로 삼고 있다. 개발자와 연구자가 백엔드닷AI를 직접 활용하도록 공개하고, 기업이나 기관에는 추가 관리 기능을 결합한 엔터프라이즈 제품을 구독 형태로 제공한다. 초기에는 오픈소스로 시작하고 사용 규모가 커지면 기업용 제품으로 확대할 수 있는 구조다.

AI 활용 범위도 데이터센터에서 개인용 PC까지 넓히고 있다. 올해 1월 선보인 ‘AI:GO’는 개인 PC에서 AI 모델을 실행하고 여러 AI 에이전트를 구성해 사용할 수 있는 플랫폼이다. 필요하면 대규모 서버와 연결해 더 큰 AI 모델도 활용할 수 있다.

AI 서비스 운영을 지원하는 기술도 확대하고 있다. ‘컨티넘 라우터’는 이용자 요청에 적합한 AI 모델을 연결하고, ‘컨티넘 허브’는 AI 서비스의 사용량과 비용 등을 관리한다. 단순히 GPU를 효율적으로 사용하는 것을 넘어 AI 서비스를 개발하고 운영하는 과정까지 지원하려는 전략이다.

글로벌 시장 진출도 준비 중이다. 신 대표는 “글로벌 파트너들이 소프트웨어 재판매부터 운영과 최적화, 사후 서비스까지 제공할 수 있도록 협력하고 있다”며 “내년 초 글로벌 출시를 준비하고 있다”고 밝혔다.

신 대표는 “AI가 작아지는 방향과 커지는 방향으로 모두 발전하고 있다”며 “이러한 AI를 확장 가능하게 만들어 누구든지 쉽고 저렴하게 활용할 수 있도록 하는 것을 목표로 하고 있다”고 강조했다.