[이데일리 신영빈 기자] 인공지능(AI)·클라우드 소프트웨어 기업 오케스트로 그룹이 공공 AI 서비스 확산을 위한 클라우드 기반 운영 전략을 선보인다.

오케스트로 그룹은 오는 23일부터 24일까지 일산 킨텍스 제2전시장에서 열리는 ‘2026 공공 AI 박람회’에 참가한다고 19일 밝혔다.

이번 박람회는 행정안전부가 주최하고 한국지능정보사회진흥원(NIA)이 주관하는 공공 분야 AI 행사다. 제9회 전자정부의 날과 연계해 열리며 공공 AI 기술 전시, 재해복구(DR) 정책·기술 포럼, 비즈니스 매칭 등을 통해 AI 기반 미래 행정 혁신 방향을 논의한다.

오케스트로 그룹은 이번 전시에서 공공 AI 서비스 확산에 필요한 클라우드 기반 운영 모델을 소개한다. 공공 AI가 실제 대국민 서비스로 확대될수록 모델 도입 이후의 성능 관리, 인프라 운영, 서비스 연속성 확보가 중요해지는 만큼 AI 추론 최적화와 클라우드 자원 운영, 재해복구 체계를 연계한 운영 방안을 제시한다는 계획이다.

대표 솔루션인 AI 추론 운영 플랫폼 ‘콘체르토 AI(CONCERTO A.I.)’도 현장에서 시연한다. 콘체르토 AI는 AI 서비스 운영 과정에서 발생할 수 있는 응답 지연과 자원 비효율을 줄이는 데 초점을 맞춘 플랫폼이다. 고부하 환경에서도 안정적인 응답 성능과 자원 활용 효율을 유지할 수 있도록 AI 인프라 운영 최적화를 지원한다.

오케스트로 그룹은 박람회 현장 시연을 통해 동시 요청이 급증하는 환경에서 AI 추론 성능 개선 효과를 소개한다. 전체 응답 지연시간을 최대 92% 줄이고, 처리 효율을 최대 50% 높인 결과를 확인할 수 있도록 할 예정이다. 기존 방식 대비 최대 2.2배 빠른 토큰 생성 속도도 시연해 고부하 환경에서 안정적인 AI 서비스 운영이 가능하다는 점을 강조한다.

AI·클라우드 풀스택 솔루션을 기반으로 소버린 AI 구현에 필요한 인프라 운영 방향도 제시한다. 공공기관이 클라우드 인프라와 AI 운영 환경을 하나의 체계 안에서 통합 관리하고, 특정 외산 솔루션 의존도를 낮출 수 있도록 지원한다는 구상이다.

서버 가상화와 재해복구 솔루션도 함께 소개한다. 서버 가상화 솔루션 ‘콘트라베이스(CONTRABASS)’는 공공기관의 클라우드 전환과 인프라 통합 운영을 지원한다. 재해복구 솔루션 ‘콘트라베이스 레가토 DR(CONTRABASS Legato DR)’은 기관별 환경에 맞는 재해복구 구성을 지원하고, 자동화된 복구 절차와 모의훈련을 통해 장애나 재난 상황에서도 행정 및 대국민 서비스가 중단 없이 이어질 수 있도록 돕는다.

박람회 기간 현장에서는 공공기관 관계자를 대상으로 공공 AI 전환과 클라우드 인프라 운영을 주제로 한 일대일 맞춤형 상담도 진행한다. 오케스트로 그룹은 기관별 업무 환경과 운영 과제에 맞춰 AI 서비스 도입 이후 필요한 인프라 구성과 운영 전략을 안내하고, 공공기관별 AI·클라우드 풀스택 솔루션 적용 방안을 구체화할 계획이다.

김민준 오케스트로 그룹 의장은 “공공 AI의 경쟁력은 이제 도입 여부가 아니라 실제 행정서비스 안에서 얼마나 안정적으로 운영되느냐에 달려 있다”며 “오케스트로 그룹은 AI 서비스의 성능과 비용 효율성, 서비스 연속성을 모두 고려한 클라우드 운영 모델을 바탕으로 성공적인 공공 AX를 이끌어가겠다”고 말했다.