국산 인공지능(AI) 반도체의 시장 진입 전략이 해외 그래픽처리장치(GPU)를 대체하는 경쟁에서 두 반도체를 함께 활용하는 협력으로 넓어지고 있다. AMD의 중앙처리장치(CPU)·GPU와 국산 NPU를 결합하는 방식이다.

이기종 사업화의 관건은 칩을 연결하는 데 그치지 않고 국산 NPU가 맡을 작업을 구체화하고 매출을 확보하는 것이라는 분석이다.

13일 업계에 따르면 최근 방한한 리사 수 AMD 회장은 이달 7일 국내 AI 반도체·인프라 기업들과의 간담회에서 국산 AI 반도체를 활용한 이기종 인프라 구축을 논의했다.

정부와 AMD는 이기종 인프라를 국내에서 실증한 뒤 해외에서도 활용할 수 있는 기준 사례로 발전시킨다는 계획이다.

이기종 인프라는 서로 다른 칩을 용도에 맞게 함께 사용하는 구조다. CPU가 범용 작업을 처리하고 GPU와 NPU가 각자 강점을 가진 AI 연산을 맡는다. K-NPU는 모든 작업에서 GPU와 경쟁하기보다 특정 추론 작업에 활용될 기회를 넓힐 수 있다.


기업별 목표 시장은 다르다. 퓨리오사AI의 '레니게이드'는 대규모언어모델(LLM)과 멀티모달 모델 등의 데이터센터 추론을 겨냥한다.

딥엑스는 로봇 등 현장 기기에서 저전력으로 AI를 실행하는 시장을 공략한다. 리벨리온의 리벨 서버에는 AMD 에픽 CPU와 자체 NPU가 함께 쓰일 계획이다. 리벨리온은 AMD 에픽 CPU와 자체 NPU를 결합한 리벨 서버를 추진한다.

망고부스트는 인프라 구축과 운영을 서비스로 연결하는 사업 모델을 제시했다. 김장우 대표는 전날 간담회에서 국산 NPU와 AI 모델, 서빙 소프트웨어를 결합한 AI 인프라를 구축하겠다고 밝혔다. 국내 기술을 활용한 시스템을 구축하고 해외의 소버린 AI 수요에도 대응하겠다는 구상이다.

김 대표는 "점차 국산 NPU를 사용하고 국산 모델과 서빙 소프트웨어도 활용하려 한다"며 "자국의 소버린 AI를 구축해 달라는 해외 수요도 있다"고 설명했다.

현재 AMD GPU를 활용하지만 특정 공급업체에 종속되지는 않겠다는 입장이다. 고객이 원하면 엔비디아 GPU를 사용하는 방안도 열어뒀다. 국방·금융 등 데이터를 외부에 맡기기 어려운 고객에게는 시설 내부에 시스템을 설치하는 온프레미스 방식도 제공할 계획이다.


망고부스트 "GPU 수만 장 확보 로드맵, 추론 가격 낮춘다"
망고부스트는 올해 서울에 1메가와트(㎿) 규모의 AI 인프라를 구축하고 내년에는 규모를 5㎿로 확대할 계획이다. 이후 해외 파트너와 협력해 500㎿ 규모로 확대하고 장기적으로 기가와트(GW)급으로 확대한다는 구상이다.

김 대표는 "GPU를 수만 장 단위로 확보할 로드맵을 세웠고 수급에는 문제가 없다"며 "AMD 입장에서는 우리가 성공해야 엔비디아의 아성에 도전할 수 있기 때문에 GPU 공급에 대한 약속이 돼 있다"고 말했다.

망고부스트의 추론 플랫폼 '망고 인퍼런스'는 고객이 서버를 구축하지 않고 API로 AI 모델을 이용하는 서비스다. 망고부스트가 모델·가속기·인프라를 관리하고 고객은 토큰 사용량에 따라 비용을 낸다.

권동업 망고부스트 최고기술책임자(CTO)는 "AMD 기반을 사용하고 있어 다른 서비스 제공업체와 비교해 적어도 20% 이상 저렴하게 가격을 책정했다"며 "과금 방식이 기업의 사용량에 따라 요금이 정해지는 구조로 월 이용료를 일률적으로 제시하기 어렵다"고 했다.

다만 업계에서는 현재 AMD GPU 기반인 망고 인퍼런스를 국산 NPU 공동 상용화 사례로 보기는 어렵다는 분석이 나온다. 도입할 NPU와 일정, 검증 모델, 작업 배분이 구체적으로 공개되지 않았기 때문이다. 같은 응답 품질을 기준으로 처리 속도·전력 사용량·운영비를 비교하고 서버 설계·소프트웨어 연동·고객 지원의 책임 분담도 구체화해야 한다.

업계 관계자는 "협력의 성과는 확보할 칩의 규모보다 실제 고객과 반복 매출에서 드러날 것"이라며 "톱 티어급 응답 품질을 유지하면서 처리 속도를 높이고 전력 소모와 운영비를 얼마나 줄일 수 있는지가 성패를 가를 전망"이라고 말했다.

ideaed@news1.kr