Kanana-2-v-decide 오픈소스 모델 성능 비교(사진=카카오)
최근 AI 에이전트가 여러 단계의 업무를 수행하면서 어떤 도구를 사용하고, 어떤 정보를 참고하며, 이후 어떤 행동을 실행할지를 반복적으로 결정해야 하는 만큼 판단에 특화된 모델 개발도 늘고 있다.
Kanana-2-v-decide는 이용자 질문에 자연어 문장으로 답하는 대신 △확률 △선택 △점수 등 규격화된 형태로 판단 결과를 제공한다.
서비스가 결과를 곧바로 후속 작업에 활용할 수 있어 자연어 답변에서 다시 필요한 결론을 추출하는 과정을 줄일 수 있다는 설명이다.
◇텍스트·이미지 함께 보고 ‘다음 행동’ 판단
카카오는 자체 멀티모달 언어모델 ‘Kanana-2-v-3b’를 기반으로 이번 모델을 개발했다.
텍스트와 이미지를 함께 이해할 수 있어 고객 문의 분류나 AI 에이전트의 도구 선택, 상품 이미지 판별 등 다양한 서비스에 적용할 수 있다.
예컨대 고객이 파손된 상품 사진과 함께 교환을 요청하면 모델이 이미지와 문의 내용을 함께 분석해 파손 여부와 문의 유형, 고객 감정 상태 등을 확률이나 점수로 판단한다.
서비스는 이 결과를 사전에 정한 기준과 결합해 상담원에게 연결하거나 교환 절차를 안내하는 식으로 활용할 수 있다.
모델은 입력 질문과 선택지를 숫자 묶음인 벡터로 변환해 유사도를 비교하는 임베딩 기반 구조를 적용했다. 동일한 선택지의 벡터는 저장한 뒤 재사용할 수 있어 반복 요청 때 연산량과 응답 지연을 줄일 수 있도록 했다.
Kanana-2-v-decide 오픈소스 모델 속도 비교(영상=카카오)
카카오에 따르면 Kanana-2-v-decide는 엔비디아 H200 GPU 1장 기준 평균 0.04초 이내의 응답 속도를 기록했다.
회사는 자체 측정 기준으로 GPT-6 Luna보다 약 43배 빠른 속도를 기록했다고 설명했다.
판단 성능에서도 자체 평가셋 ‘Kanana Decision Bench’와 공개 평가셋 ‘Decision Index’에서 비교 대상 모델 가운데 가장 높은 성능을 기록했다고 밝혔다.
비교 대상에는 마이크로소프트 ‘Decision-1’, 타입세이프 AI ‘Jev’, 퍼플렉시티 ‘pplx-decider-v1.1-27B’, 업스테이지 ‘Solar Decide’ 등이 포함됐다.
◇상업적 활용 가능한 오픈 라이선스 적용
카카오는 이번 모델에 연구뿐 아니라 상업적 이용도 가능한 ‘카나나 오픈 라이선스’를 적용했다. 국내외 연구자와 기업이 AI 에이전트 서비스 개발에 활용할 수 있도록 한다는 취지다.
카카오는 웹 검색과 상품 카테고리 자동 분류 등 내부 프로젝트에 먼저 적용해 실제 서비스 환경에서 성능을 개선할 계획이다. 향후에는 검색과 판단 기능을 하나의 모델로 통합하는 방향으로 기술을 고도화한다.
최동진 카카오 어플라이드 AI 모델 성과리더는 “최신 AI 기술을 실제 서비스에 활용할 수 있는 기반을 넓힌다는 데 의미가 있다”며 “기술 고도화와 공개를 통해 이용자가 일상에서 체감할 수 있는 AI 경험을 제공하겠다”고 말했다.
