엔비디아 네모 마이크로서비스 출시(엔비디아 제공)
네모 마이크로서비스는 데이터 플라이휠을 활용해 기업이 맞춤형 AI 팀원을 신속하게 구축할 수 있도록 지원하는 엔드 투 엔드 플랫폼이다.
네모 마이크로서비스는 △데이터 준비 △모델 미세 조정 △평가 △보안 △정보 검색 등 AI 에이전트 구축의 전 과정을 통합 지원한다.
핵심 구성은 △네모 큐레이터(데이터 큐레이션 담당)' △네모 커스터마이저(거대언어모델(LLM) 미세 조정 가속) △네모 이밸류에이터(모델 성능 검증) △네모 가드레일(규정 준수·보안 강화) △네모 리트리버(정보 검색 정확도 향상) 등이다.
이를 통해 기업은 AI 에이전트의 정확성과 효율성을 높이는 데이터 플라이휠을 구축할 수 있다.
데이터 플라이휠은 AI 에이전트가 이용자와 상호작용을 통해 추론 과정에서 만든 데이터를 바탕으로 지속적으로 성능을 개선할 수 있도록 한다.
엔비디아 관계자는 "네모 커스터마이저는 지도학습미세조정(SFT)과 LoRA 등 최신 사후 훈련 기술을 적용해 최대 1.8배 높은 훈련 처리량을 제공한다"며 "모든 마이크로서비스는 온프레미스와 클라우드 등 다양한 환경에서 엔터프라이즈급 보안과 지원을 제공한다"고 말했다.
AT&T·블랙록·시스코 등 글로벌 기업들은 네모 마이크로서비스를 도입해 AI 에이전트의 정확도와 응답 속도를 개선했다.
AT&T는 네모 커스터마이저와 이밸류에이터를 활용해 AI 에이전트 정확도를 40%, 시스코는 코딩 어시스턴트의 도구 선택 오류를 40% 줄이고 응답 속도를 10배 각각 높였다.
네모 마이크로서비스는 △라마(Llama) △마이크로소프트 파이(Phi) △구글 젬마(Gemma) △미스트랄 등 다양한 오픈 모델을 지원한다. 메타 라마스택과도 연동된다.
엔비디아 관계자는 "기업이 수백 개의 AI 에이전트를 디지털 팀원으로 도입해 업무 효율성과 경쟁력을 높일 수 있을 것으로 기대한다"고 전했다.
ideaed@news1.kr