프랑스 파리 근교 이시레물리노에 위치한 마이크로소프트 사무실에서 마이크로소프트 로고가 보이는 모습. (사진=로이터)
마이아 300은 AI 모델의 추론과 복잡한 업무 처리를 위해 개발한 반도체다. 프로그래밍 코드 작성이나 사용자를 대신한 업무 수행 등 AI 서비스 운영에 필요한 연산을 처리하도록 설계됐다.
MS는 이미 이전 세대인 마이아 200을 자체 AI 모델과 클라우드 서비스 애저(Azure)를 통해 제공하는 오픈AI 모델 구동에 활용하고 있다. 이번 신제품을 통해 자체 AI 반도체의 활용 범위를 더욱 확대한다는 구상이다.
마이아 300의 가장 큰 특징은 전력 대비 연산 효율이다. MS는 마이아 300이 주요 그래픽처리장치(GPU) 기반 시스템보다 메가와트당 약 40% 많은 AI 연산 작업을 처리할 수 있다고 밝혔다. 다만 비교 대상이 된 구체적인 GPU 시스템은 공개하지 않았다.
라니 보카 MS 애저 하드웨어 시스템·인프라 부문 사장은 “시스템 전체를 최적화해 전력 1와트, 비용 1달러, 메모리 1바이트당 더 많은 AI 연산을 수행하도록 설계했다”고 설명했다.
제조 방식도 엔비디아와 차별화했다. 엔비디아의 AI 가속기는 대형 연산 칩을 고대역폭메모리(HBM)가 둘러싸는 구조인 반면, 마이아 300은 여러 개의 소형 반도체를 결합하는 ‘칩렛’ 방식을 채택했다.
핵심 연산을 담당하는 반도체에는 대만 TSMC의 2나노미터 공정 기술을 적용했다. 데이터 전송 등 다른 기능을 처리하는 반도체에는 상대적으로 비용이 저렴한 3나노 공정을 활용했다. 기능별로 제조 공정을 달리해 성능과 비용을 최적화한 것이다.
데이터센터 서버 구성에서도 차이가 있다. 마이아 300은 서버 랙 한 대에 반도체 96개를 탑재하며 약 167킬로와트(㎾)의 전력을 사용한다. 엔비디아의 최신 GB300 서버 랙은 GPU 72개를 탑재하고 약 142㎾의 전력을 소비한다.
MS는 내년부터 마이아 300을 수 기가와트(GW) 규모의 데이터센터 인프라에 배치할 계획이다. 이는 단순한 반도체 시험 도입을 넘어 자체 AI 반도체를 주요 서비스 운영에 대규모로 활용하겠다는 구상이다.
이번 신제품 공개는 빅테크 기업들이 엔비디아 중심의 AI 반도체 공급구조에서 벗어나려는 움직임과 맞물려 있다. 구글 등 클라우드 기업뿐 아니라 오픈AI도 자체 AI 반도체 개발에 나서면서 연산 비용을 낮추기 위한 경쟁이 확대되고 있다.
AI 인프라 투자 부담도 커지고 있다. MS는 올해 연간 자본지출이 1750억달러(약 233조 6000억원)를 넘어설 것으로 예상하고 있다. 데이터센터와 서버 등 AI 인프라 확충에 막대한 자금이 투입되는 만큼 반도체 성능뿐 아니라 전력 효율과 운영비용을 낮추는 것이 주요 과제로 떠올랐다.
MS는 자체 반도체를 통해 AI 모델 구동에 필요한 연산 능력을 확보하고 장기적으로 서비스 운영비용을 줄일 계획이다.
