[이데일리 윤정훈 기자]카카오(035720)가 아마존웹서비스(AWS)를 인공지능(AI) 모델 학습의 핵심 인프라 파트너로 선택한 이유를 공개했다. 카카오는 그래픽처리장치(GPU) 자원을 유연하게 확보하고 대규모 모델 학습의 안정성과 효율성을 높여 정부의 ‘모두의 AI’ 사업과 자체 대규모언어모델(LLM) ‘카나나(Kanana)’ 개발을 뒷받침한다는 전략이다.

김세웅 카카오 AI시너지 부사장은 23일 서울 강남 파르나스타워에서 열린 ‘AWS AI 웨이브’ 행사에서 카카오의 AI 인프라 전략과 AWS와의 기술 협력 사례를 공개했다.

카카오는 국민 플랫폼인 카카오톡을 접점으로 삼아 AI 에이전트 서비스를 전 국민의 일상 속으로 확대한다는 구상이다. 정부가 추진하는 모두의 AI 사업에서도 누구나 일상에서 AI 에이전트를 누릴 수 있는 에이전트 플랫폼 구축을 추진하고 있으며, 카카오 컨소시엄에는 LG AI연구원, 루닛 등 국내 주요 파트너사들이 함께 참여하고 있다.

이와 함께 독자 AI 모델인 카나나 개발에도 박차를 가하고 있다. 최상위 성능을 겨냥한 프런티어급 모델부터 중형 모델, 소형언어모델(SLM), 온디바이스용 경량 모델까지 다양한 제품군을 개발해 서비스 환경에 맞춰 유연하게 선택할 수 있도록 할 계획이다.

문제는 모델 개발에 필수적인 막대한 GPU 자원을 안정적이면서도 효율적으로 확보하는 일이다. 대규모 모델 학습에는 수천 대의 연산 자원이 소요되지만, 개발 단계와 모델 규모에 따라 GPU 수요는 수시로 출렁인다. 매년 새로운 GPU가 등장함에 따라 개발진의 하드웨어 요구 사양도 시시각각 바뀐다. 자체 자산으로만 대응할 경우 프로젝트 종료 후 자원이 유휴화되거나 필요한 시점에 제때 공급하지 못하는 한계가 발생한다.

이런 고충을 해결하기 위해 카카오는 △학습은 AWS 클라우드 △추론(서비스)은 자체 인프라 및 정부 지원 GPU“라는 명확한 이원화 인프라 전략을 채택했다.

김세웅 카카오 부사장은 ”GPU는 내부 수요도 많지만 학습이 끝났을 때 낭비되는 측면이 크고, 매년 나오는 신형 GPU를 적시에 공급해야 하는 과제가 있다“며 ”개발자들이 연구에만 집중할 수 있도록 학습 플랫폼 운영은 AWS 하이퍼팟에 맡기고 카카오는 모델 개발에만 집중하는 전략을 취했다“고 설명했다.

기술적 안정성과 끊김 없는 학습 환경 구축 역시 AWS를 선택한 핵심 이유다. 카카오는 AWS의 분산 AI 학습 인프라 서비스인 ‘아마존 세이지메이커 하이퍼팟’을 적극 활용하고 있다. 대규모 분산 학습 도중 일부 연산 노드에 장애가 발생하더라도 하이퍼팟이 이를 자동으로 감지·교체하고 저장된 체크포인트부터 학습을 즉시 재개해 전체 학습 시간을 획기적으로 단축시켜 주기 때문이다.

김 부사장은 ”내부적으로 운영해 봤을 때 GPU가 한 장만 죽어도 노드 전체를 쓰지 못해 운영 시간 손실이 심각했다“며 ”저희가 AWS 하이퍼팟을 선택하게 된 가장 큰 이유는 ‘멈추지 않는 학습’을 통해 개발 시간을 단축하는 것이 무엇보다 중요했기 때문“이라고 강조했다.

아울러 카카오는 AWS 콘솔 도구를 활용해 한정된 자원을 내부 개발팀별로 효율적이고 공정하게 배분하는 관제 체계도 구축했다. 김 부사장은 ”AWS 콘솔을 통해 자원 활용도와 효율을 명확히 파악함으로써 팀 간 자원 경합이나 갈등을 줄이고 신속한 온보딩이 가능해졌다“고 덧붙였다.

이렇게 구축된 독자 모델 카나나는 AWS의 AI 마켓플레이스인 ‘점프스타트’에 등록되어 글로벌 기업 및 개발자들에게도 빠르게 확산되고 있다. 향후 카카오는 클라우드 기반의 추론 영역 확장까지 검토하며 CSP 파트너십을 더욱 강화해 나갈 예정이다.

김세웅 부사장은 ”AWS의 검증된 개발 체계와 차세대 학습 인프라 지원 덕분에 카나나 모델을 빠르게 온보딩하고 상용화 노하우를 개발자들에게 전파할 수 있었다“며 ”앞으로도 모델 학습뿐만 아니라 추론 영역까지 다양한 CSP와의 협력을 확대해 국민 모두가 AI 혜택을 누리는 시대를 열어가겠다“고 밝혔다.