[이데일리 김현아 기자] AI 인프라 솔루션 기업 모레(MOREH)가 미국 샌프란시스코에서 열린 AMD의 연례 최대 AI 행사 ‘Advancing AI 2026’에서 자체 분산 추론 기술을 선보이며 글로벌 AI 시장 공략에 나섰다.

특히 행사 기간 리사 수(Lisa Su) AMD 최고경영자(CEO)와 배경훈 부총리 겸 과학기술정보통신부 장관이 모레 부스를 직접 찾아 조강원 대표의 기술 설명을 듣고 시연을 참관해 눈길을 끌었다.

모레는 22~23일(현지시간) 열린 행사에서 AMD GPU 기반 분산 추론 솔루션인 ‘MoAI 추론 프레임워크’를 공개했다.

이번 시연에서는 AMD MI300X GPU 32장(4노드)으로 구성된 시스템에서 대규모 언어모델(LLM) GLM-5.1을 실시간으로 구동했다. 행사 참가자들은 직접 챗봇을 사용하며 응답 속도와 서비스 품질을 체험했고, 다양한 활용 환경에서의 성능도 확인했다.

◇GPU 활용률까지 실시간 공개…AI 추론 성능 직접 검증

모레는 단순히 AI 모델을 실행하는 데 그치지 않고 GPU 활용률과 TPS(Tokens Per Second), TTFT(Time To First Token), TPOT(Time Per Output Token) 등 AI 추론 서비스의 핵심 성능 지표를 실시간으로 공개했다.

이를 통해 실제 서비스 환경에서의 처리 성능과 GPU 자원 활용 효율을 현장에서 직접 검증할 수 있도록 했다.

행사장을 찾은 글로벌 AI 업계 관계자들은 빠른 응답 속도와 안정적인 처리 성능에 높은 관심을 보였으며, AMD GPU에서 구동 난도가 높은 GLM-5.1을 실시간 서비스 수준으로 구현한 점을 긍정적으로 평가했다고 회사 측은 전했다.

◇“AI 서비스 비용 낮추는 분산 추론 기술”

모레는 자사의 ‘MoAI 추론 프레임워크’가 AMD 생태계에서 분산 추론 기술을 세계 최초로 구현·상용화한 사례라고 설명했다.

분산 추론과 이기종 GPU 통합 기술을 통해 AI 서비스 운영 비용을 크게 낮추고, AI 모델의 대형화로 증가하는 인프라 구축 비용과 서비스 비용 문제를 해결할 수 있다는 것이다.

조강원 모레 대표는 “이번 행사는 AMD GPU 환경에서도 최고 수준의 AI 추론 성능을 구현할 수 있음을 글로벌 고객들에게 직접 검증받은 자리였다”며 “GPU 종류와 관계없이 기업들이 AI 서비스를 가장 효율적으로 운영할 수 있도록 AI 인프라 소프트웨어 기술을 지속적으로 고도화하겠다”고 말했다.

모레는 AI 인프라 핵심 엔진을 자체 개발하고 있으며, 파운데이션 LLM 전문 자회사인 모티프테크놀로지스를 통해 AI 모델부터 인프라까지 아우르는 기술 역량을 확보하고 있다. AMD를 비롯해 텐스토렌트 등 글로벌 반도체 기업들과 협력을 확대하며 해외 시장 공략에도 속도를 내고 있다.