글로벌 IT 시장조사기관 가트너(Gartner)는 24일 ‘소버린 AI: 다극화 세계를 위한 인프라 전략’ 보고서를 통해 오는 2030년까지 네오클라우드 공급업체가 2,670억 달러(약 410조 원) 규모의 AI 클라우드 시장에서 약 20%의 점유율을 차지할 것으로 예측했다.
네오클라우드는 아마존웹서비스(AWS), 마이크로소프트(MS), 구글 클라우드 등 데이터 저장이나 웹서버 운영 등 범용 서비스를 제공하는 기존 ‘하이퍼스케일러’와 달리, 오직 AI 모델 학습과 추론 등 대규모 고성능 연산에만 최적화된 인프라를 제공하는 특화형 클라우드 기업을 뜻한다. 글로벌 시장에서는 엔비디아의 핵심 파트너로 꼽히는 코어위브(CoreWeave)나 람다랩스(Lambda Labs), 네비우스(Nebius) 등이 대표적인 네오클라우드 공급업체로 주목받고 있다.
최근 생성형 AI가 빠르게 확산됨에 따라 GPU 집약적인 컴퓨팅 수요는 전례 없는 수준으로 증가하는 추세다. 이에 따라 고성능 인프라에 대한 투자가 확대되는 반면, 기존 클라우드 모델은 한계를 드러내고 있다. 네오클라우드는 이 같은 틈새를 겨냥해 AI 최적화 인프라와 강력한 가격 경쟁력을 앞세워 기존 하이퍼스케일러의 지배적 입지에 도전장을 내밀고 있다.
특히 글로벌 규제 강화와 지정학적 우려 속에서 네오클라우드가 가진 ‘소버린 클라우드’ 역량이 차별화 요소로 부각되고 있다. 데이터와 운영이 특정 관할권 내에 유지되도록 보장해 해외 법적 청구나 역외 접근으로부터 보호한다는 취지다. 현재 데이터 주권 요건은 기존 일반데이터보호규정(GDPR)과 오는 2026년 8월 시행을 앞둔 ‘EU AI법(AI Act)’의 핵심 투명성 의무에 근간을 두고 갈수록 엄격해지는 상황이다.
엔리케 카스테라 가트너 수석 애널리스트는 “미국의 하이퍼스케일러가 자체 소버린 서비스를 출시하고 있는 가운데, 네오클라우드 공급업체가 주목을 받고 있다”며 “네오클라우드는 AI 최적화 인프라와 고성능 워크로드에 중점을 둔다는 점에서 차별점이 있다”고 설명했다.
이어 “일부 네오클라우드는 데이터와 운영이 특정 관할권 내에 유지되도록 보장하는 소버린 클라우드 기능에도 집중하고 있다”며 “소버린 네오클라우드는 데이터, 운영, 거버넌스 등 클라우드 환경의 일부 또는 전체가 국경 내에 머물도록 보장해 해외 법적 청구나 역외 접근으로부터 보호한다”고 덧붙였다.
가트너는 이 같은 네오클라우드와 소버린 AI 인프라의 부상이 기업들의 클라우드 전략을 중앙집중형 글로벌 모델에서 현지화된 하이브리드 아키텍처로 재편하고 있다고 분석했다.
카스테라 애널리스트는 “네오클라우드는 AI 워크로드에 최적화된 성능, 유연한 배포 모델, 강력한 데이터 주권 보장을 바탕으로 차별화된 가치를 제공하며, 가격 경쟁력에서도 앞선다”며 “주권, 성능, 인프라 전문성이 기업의 주요 의사결정 요인으로 부상하면서 AI 클라우드 시장은 새로운 국면에 접어들었다. 기존 클라우드 모델이 급증하는 GPU 집약적 워크로드 수요를 따라가지 못하면서, 대규모 AI 인프라에 특화된 새로운 유형의 공급업체가 성장할 수 있는 환경이 조성되고 있다”고 진단했다.
이에 따라 인프라 및 운영(I&O)을 비롯한 IT 리더들은 한정된 GPU 용량을 확보하기 위해 전문 네오클라우드 업체를 평가하고, 기존 하이퍼스케일러에 국한되지 않는 다각화 전략을 추진해야 할 것으로 제언됐다. 이와 함께 데이터 주권과 규제 준수를 위한 기술적 통제 수단 도입, 재무 및 리스크 관리 전략 조정도 과제로 제시됐다.
카스테라 애널리스트는 “기업은 네오클라우드 공급업체를 활용해 AI 역량을 강화하면서 데이터 주권과 규제 준수에 대한 통제권도 함께 확보할 수 있을 것”이라며 “이들은 AI 워크로드에 특화된 고성능 인프라에 대해 보다 유연하게 접근할 수 있도록 지원함으로써, 기업의 혁신 속도를 높인다”고 강조했다.
