[이데일리 신영빈 기자] 오픈AI가 한국에서 인공지능(AI) 추론까지 처리하기 위한 국내 인프라 구축에 나선다. 데이터를 한국에 저장하는 데서 나아가 AI가 답변을 만드는 연산 과정까지 국내에서 처리하겠다는 구상이다.

김경훈 오픈AI 코리아 총괄대표는 9일 서울 강남구 조선팰리스에서 열린 한국 오피스 출범 1주년 기자간담회에서 “한국에서 추론 인프라를 제공할 수 있는 파트너 몇 곳과 계속 논의하고 있다”고 밝혔다.

현재 오픈AI는 국내 챗GPT 엔터프라이즈, 챗GPT 에듀, API 고객에게 데이터를 한국에 저장하는 ‘데이터 레지던시’를 제공하고 있다. 앞으로는 모델이 이용자의 요청을 처리하고 답변을 생성하는 GPU 연산까지 국내에서 수행하는 ‘추론 레지던시’를 지원할 계획이다.

김 대표는 “추론을 하기 위해서는 좋은 GPU와 이를 뒷받침할 클라우드 시스템이 필요하다”며 “우리나라에서 이런 인프라를 제공할 수 있는 파트너 몇 곳과 계속 논의하고 있다”고 말했다. 이어 “그중 한 곳에 GPU가 새로 들어오면 일부를 저희 추론 쪽으로 배정해줄 것으로 예상한다”고 밝혔다.

국내 추론 서비스는 GPU 확보와 비용이 변수다. 김 대표는 기업들이 실제 국내 추론이 필요한지와 비용을 함께 고려해 이용 여부를 결정하게 될 것으로 내다봤다. 특정 업종이나 고객군으로 제한하기보다는 로컬 추론이 필요한 기업에 제공할 계획이다.

국내 클라우드 사업자와의 협력 가능성도 열어뒀다. 현재 오픈AI는 마이크로소프트(MS), 아마존웹서비스(AWS), 오라클 등 글로벌 클라우드 사업자와 협력하고 있다.

김 대표는 “꼭 미국 업체여야만 하는 것은 아니다”라며 “한국에도 상당히 역량 있는 클라우드 사업자들이 있기 때문에 언젠가는 오픈AI 모델이 한국 클라우드 사업자의 인프라에 올라가는 날도 올 것이라고 기대한다”고 했다.

오픈AI가 국내 인프라 확충에 나서는 배경에는 한국 기업과 기관의 AI 이용 확대가 있다. 지난 8월 말 기준 국내 챗GPT 엔터프라이즈 이용자 수는 1년 전보다 약 28배 증가했다. 일반 챗GPT의 국내 주간 활성 이용자도 전년보다 35% 늘었다.

AI를 실제 업무 수행 수단으로 활용하는 흐름도 뚜렷해졌다. 챗GPT 워크와 코덱스의 국내 주간 활성 이용자는 지난 3월 대비 6개월 만에 약 14배 증가했다. 코덱스는 코드 작성·수정·검토 등을 수행하는 코딩 에이전트이며, 챗GPT 워크는 앱과 파일을 활용해 조사·분석부터 문서 작성까지 처리하는 업무형 AI다.

김 대표는 “과거에는 기업 안에 있는 정보를 챗봇 형태로 제공하는 수준에 머물렀다면 이제는 AI와 함께 팀을 꾸려 새로운 제품과 서비스를 만드는 모습을 보고 있다”고 말했다. 법무, 재무, 인사, 회계, 마케팅, 영업 등 비개발 직군에서도 에이전트 활용이 빠르게 늘고 있다는 설명이다.

오픈AI는 최근 공개한 GPT-6 ‘아스트라’가 이런 변화를 더욱 가속할 것으로 보고 있다. 김 대표는 “아스트라에서 가장 중요하게 본 것은 정말 일을 끝까지 스스로 해낼 수 있느냐는 부분”이라며 “사람이 목표를 설정했을 때 이를 계속 생각하고 이전 작업까지 기억해 더 높은 품질의 결과물을 만드는 것이 강점”이라고 말했다.

이어 “예전에는 AI에게 일을 시키더라도 사람이 간섭하거나 검토하는 작업이 많았다면 이제는 더 어려운 일을 믿고 맡길 수 있는 시대가 되지 않았나 생각한다”고 했다.

실제 활용 범위도 넓어지고 있다. 오픈AI에 따르면 삼성전자는 연구개발(R&D), 마케팅, 해외영업, 생산관리 등 다양한 업무에 챗GPT를 활용하고 있다. 김 대표는 삼성전자 도입을 두고 “전 세계에서도 가장 큰 규모의 도입 중 하나”라고 평가했다. 서울대에서는 약 5만명에 가까운 학생과 교직원이 챗GPT와 코덱스를 연구와 업무에 활용하고 있다.

사이버보안 사업도 한국에서 확대한다. 김 대표는 현재 국내에서 사이버보안 관련 협력을 진행 중인 기업이 약 5곳이라고 밝혔다. 정부 부문은 민간과 별도로 운영하며 한국인터넷진흥원(KISA) 등 여러 정부기관과도 협력을 이어가고 있다.

삼성SDS(삼성에스디에스(018260))가 참여한 사이버보안 프로그램 ‘데이브레이크’에 대해서는 “삼성 계열사를 중심으로 먼저 사이버 모델을 쓰게 될 것”이라며 “파일럿 단계가 잘 지나가면 더 많은 기업을 대상으로 서비스를 진행하게 될 것”이라고 말했다. 다른 국내 기업들의 파일럿 참여도 이어질 것으로 전망했다.

삼성·SK그룹과의 스타게이트 협력도 이어지고 있다. 김 대표는 “양 그룹 내 여러 계열사와 함께 논의하고 있다”며 “AI 기술이 빠르게 발전하면서 지난해 10월 구상했던 데이터센터와 현재 필요한 모습이 달라져 조율에 예상보다 시간이 걸리고 있다”고 말했다.

삼성전자와는 장기적으로 자체 AI 연산칩 관련 논의도 이어가고 있다. 김 대표는 “삼성전자도 다양한 AI를 사용하고 있고 각 프로젝트의 목표와 과제가 다르다”며 “저희는 조금 더 긴 호흡으로 자체적으로 연산할 수 있는 칩을 개발해야 하기 때문에 그런 영역으로 깊이 있는 논의를 하고 있다”고 말했다.

오픈AI는 앞으로 한국 내 AI 이용 증가에 맞춰 기업용 서비스와 인프라, 보안 생태계를 함께 확대할 계획이다. 김 대표는 “앞으로도 한국의 많은 파트너들과 함께 성장하면서 국내 기업과 기관들이 가장 앞선 AI 기술을 활용할 수 있도록 돕겠다”고 말했다.