올거나이즈는 하나증권의 대고객 AI 상담 서비스인 하나Q 구축을 완료했다고 밝혔다. 지난 5월 22일 서비스를 시작한 하나Q는 금융상품 안내와 계좌, 서비스 이용 문의 등에 대해 생성형 AI를 활용해 실시간으로 답변하는 챗봇이다.
그동안 금융권은 생성형 AI 도입에 적극적이면서도 보안성과 정확성 문제로 인해 고객 대상 서비스 적용에는 신중한 모습을 보여왔다. 특히 망분리 규제 환경에서는 외부 AI 활용이 쉽지 않고, 금융상품 관련 정보는 오답이나 허위 정보 제공에 따른 위험이 크기 때문이다.
하나증권은 올거나이즈의 거대언어모델(LLM) 플랫폼 ‘알리(Alli)’를 기반으로 이러한 과제를 해결했다. 올거나이즈는 금융권 규제와 내부 통제 기준에 맞춰 온프레미스 및 DMZ(비무장지대) 구조로 시스템을 설계해 보안 요건을 충족시켰다.
하나Q의 핵심 경쟁력은 검색증강생성(RAG·Retrieval Augmented Generation) 기술이다. 고객이 질문을 입력하면 금융상품 정보와 약관, FAQ 등 하나증권 내부의 검증된 데이터를 실시간으로 검색한 뒤 이를 기반으로 답변을 생성한다.
이를 통해 AI가 근거 없는 정보를 만들어내는 ‘환각(Hallucination)’ 현상을 최소화하고, 고객 문의에 보다 정확하게 대응할 수 있도록 했다. 또한 이전 대화의 맥락을 이해해 추가 질문에도 자연스럽게 답변할 수 있도록 설계됐다.
서비스 품질을 유지하기 위한 데이터 관리 체계도 구축했다. 하나증권 AI손님서비스팀은 챗봇이 활용하는 금융상품 정보와 약관, 고객 안내 자료 등을 상시 점검하고 최신 상태로 업데이트하고 있다.
생성형 AI가 금융 상담 영역으로 빠르게 확산되는 가운데, 정확성과 보안성을 동시에 확보한 사례라는 점에서 관심이다. 올거나이즈는 일본 증시 상장 등을 추진 중이다.
이창수 올거나이즈 대표는 “올거나이즈의 RAG 솔루션은 금융권을 비롯한 다양한 산업 분야에서 기술력을 검증받아 왔다”며 “하나Q 구축은 높은 수준의 보안 환경에서도 생성형 AI가 안정적으로 운영될 수 있음을 보여준 증권업계 AX 대표 사례”라고 말했다.
이어 “앞으로도 금융권이 생성형 AI를 안전하게 활용할 수 있도록 기술 고도화와 서비스 혁신을 지속해 나가겠다”고 덧붙였다.
