[이데일리 원재연 기자] “지난 분기 매출총이익률이 왜 떨어졌나.” 기업용 인공지능(AI)이 답해야 할 질문은 짧지만, 답을 구하는 과정은 간단하지 않다. 재무·구매·생산 부서에 흩어진 자료를 찾아야 하고, 부서마다 다르게 쓰는 지표의 기준도 맞춰야 한다. 분석을 마쳤더라도 질문한 직원에게 어디까지 보여줄 수 있는지도 확인해야 한다.

범용 AI 모델의 성능은 높아지고 있지만, 이렇듯 개별 기업의 세세한 사정까지 AI가 바로 이해할 수는 없는 노릇이다. 장시룽(Jiang Xirong) 디피크(DiPeak) 최고운영책임자(COO)는 기업용 AI의 어려움이 바로 이 지점에 있다고 봤다.

장 COO는 오는 12일 서울 JW 메리어트 동대문에서 열리는 제13회 이데일리 글로벌 AI 포럼(GAIF 2026)을 앞두고 진행한 서면 인터뷰에서 “범용 AI 모델은 은행이 위험을 어떻게 정의하는지, 철강회사가 수율을 어떻게 계산하는지, 어떤 직원이 특정 기록을 볼 수 있는지 AI 스스로는 알아낼 수 없다”라고 말했다.

2022년 베이징에서 설립된 디피크는 기업의 재무 분석과 보고서 작성 등을 맡는 AI를 개발한다. 회사 내부 자료를 찾아 질문에 답하고, 매출이나 비용이 달라진 원인을 분석하는 식이다. 디피크는 이처럼 특정 업무를 맡아 처리하는 ‘디지털 직원’ AI를 만들었다.

장 COO는 이번 포럼에서 ‘글로벌 AI 팩토리: 지능형 인프라가 재편하는 산업의 미래’ 세션에 기조 연사로 참여한다. 그는 AI를 대규모로 개발하고 공급하는 인프라가 갖춰져도 이를 개별 기업의 업무에 적용하려면 별도의 작업이 필요하다고 강조했다. 기업의 데이터와 업무 지식, 사용 가능한 도구, 권한을 AI에 연결하고 실제 운영 과정에서 계속 보완해야 한다는 것이다.

◇보고서 작성부터 적용…자금·인사 결정은 여전히 사람이 해야

장 COO는 기업이 AI에 맡길 업무를 고를 때 반복 빈도와 성과 측정 가능성, 잘못됐을 때 되돌릴 수 있는지 여부를 먼저 따져야 한다고 조언했다. 사내 자료 검색이나 정기 보고서 작성, 문서의 1차 검토처럼 사람이 결과를 확인할 수 있는 업무부터 시작하라는 것이다.

도입 전후를 비교할 기준도 필요하다. 실제 업무에 적용한 뒤에는 기존 업무에 들었던 시간과 인력을 파악한 뒤 AI의 정확도와 절약한 시간, 여전히 사람이 들여야 하는 노력을 함께 살펴야 한다.

장 COO는 “기술 시연을 한다는 생각이 아니라 사업상의 문제를 해결한다는 생각에서 출발해야 한다”라며 “AI 도입을 통해 도출한 검증된 결과를 바탕으로 적용 범위를 넓혀 나가야 한다”고 했다.

AI가 일을 잘한다고 모든 권한을 맡길 수 있는 것은 아니다. 장 COO는 스스로 분석하는 능력과 분석 결과에 따라 행동할 권한을 구분해야 한다고 강조했다. AI가 복잡한 분석을 해낼 수 있더라도 자금 집행을 확정하거나 법적 구속력이 있는 결정, 인사 결정을 내리는 일까지 독자적으로 맡겨서는 안 된다는 것이다.

특히 자금 집행이나 인사 결정 등은 AI의 분석 능력과 별도로 다뤄야 한다고 봤다. 분석을 잘한다는 이유로 회사에 책임이 따르는 결정까지 독자적으로 내리게 해서는 안 된다는 것이다.

장 COO는 “사람이 감독을 하는지 여부는 AI에게 시키는 과제의 난도가 아니라 그 결정이 미칠 영향에 따라 정해야 한다”라며 “AI가 독자적으로 자금 집행을 확정하거나 법적 구속력이 있는 결정, 인사 결정을 내려서는 안 된다”라고 했다.

◇실패하지 않는 것보단 실패를 발견하고 고칠 수 있어야

AI가 처리하는 업무가 많아질수록 오류가 발생했을 때의 대응도 중요해진다. 처음부터 AI가 접근할 데이터와 사용할 도구를 제한하고, 문제가 생겼을 때 발견하고 바로잡을 수 있도록 시스템 전체를 설계해야 한다는 것이다.

장 COO는 “모델이 틀리지 않을 것이라는 기대에 의존해서는 안 된다”고 지적했다. 그는 “신뢰할 수 있는 AI는 결코 실패하지 않는 AI가 아니다”라며 “실패를 발견하고 복구할 수 있으며, 그 영향을 제한하도록 설계한 것이 디피크의 AI”라고 했다.

디피크는 운영 중 발견한 오류를 이후 버전이 통과해야 할 평가 항목에 반영한다. 같은 문제가 반복되는지 점검하고, 답변의 출처나 계산을 확인할 수 없을 때는 검증하지 못했다는 사실을 알리도록 한다.

AI가 자료를 찾고 보고서 초안을 작성하는 등의 업무를 하게 되면, 사람인 직원들은 처음 AI에게 업무를 지시할 때부터 무엇을 분석하고 어떤 결과를 내놓아야 하는지 구체적으로 정해야 한다. 또한 그 결과를 검토하고 판단하는 데 더 많은 시간을 쓰게 된다. 답변을 받은 뒤에는 근거가 충분한지, 회사의 업무 기준에 맞는지 확인하고, AI가 처리하기 어려운 예외 상황에서는 직접 개입할 수 있어야 한다.

장 COO는 이같이 AI 직원의 도입은 기존 인력 운용에도 영향을 줄 수 있다고 봤다. 장 COO는 “가장 큰 AI 모델을 보유한 기업이 우위를 차지하는 것은 아니다”라며 “갈수록 성능이 좋아지는 AI를 각 기업의 업무에 맞게 적용해 안정적으로 일을 처리할 수 있도록 만드는 기업이 앞서갈 것”이라고 했다.

◇한국 제조업의 공정 관리 경험, AI 도입에도 강점

업무 절차가 명확하고 데이터가 잘 관리돼 있는 산업일수록 AI에 일을 맡기기 수월하다. 장 COO는 한국 기업에는 중국의 AI 도입 방식을 그대로 따르기보다 제조업에서 쌓아온 경험을 활용하라고 조언했다.

그는 “한국 기업의 체계적인 공정 관리는 분명한 강점”이라며 “AI 에이전트는 업무 절차가 명확하고 데이터가 잘 관리되는 환경에서 가장 잘 작동한다”라고 했다.

장 COO는 한국은 반도체·자동차·조선·철강 등에서 강점을 갖고 있고 산업별 기준도 다른 만큼, 각 기업이 해결하려는 문제에 맞춰 AI를 적용해야 한다고 봤다. 이를 위해 모델 개발과 함께 사내 데이터를 연결하고 결과를 평가하는 데도 투자해야 한다는 것이다.

그렇다고 완벽한 시스템을 갖출 때까지 기다릴 필요는 없다고 조언했다. 통제할 수 있는 범위에서 먼저 적용하고, 실제 운영에서 얻은 피드백을 반영해 보완하면 된다는 설명이다. 다른 기업과 협력할 때도 데이터를 어디에 보관할지, 시스템 접근을 어디까지 허용할지, 결과를 누가 검증하고 중요한 조치를 누가 승인할지 미리 정해야 한다는 것이다.

장 COO는 앞으로 3년간 기업용 AI가 질문에 답하는 데서 나아가 여러 시스템을 이용해 업무를 처리하게 될 것으로 내다봤다. 사람이 목표와 사용할 도구를 정해주면 AI가 승인된 절차에 따라 여러 단계를 수행하고, 사람이 검토·승인할 수 있는 결과를 내놓는 방식이다.

기업도 이에 맞춰 AI의 업무 처리 과정을 추적하고, 문제가 생겼을 때 사람이 개입할 절차를 갖춰야 한다. 직원에게는 AI의 결과를 검토하고 오류를 지적하며 업무 방식을 개선하는 교육이 필요하다고 봤다.

그는 “핵심 질문은 ‘AI가 무엇에 답할 수 있는가’에서 ‘AI가 무엇을 하도록 허용됐는가’로 바뀔 것”이라며 “그 일을 제대로 수행했는지 어떻게 확인할 것인가도 함께 물어야 한다”고 조언했다.

◇장시룽(Jiang Xirong)

디피크 최고운영책임자(COO). 미국 스탠퍼드대에서 박사학위를 받았으며 우버와 텐센트에서 데이터 과학 관련 업무를 맡았다. 기업 데이터와 AI를 연결하고 ‘디지털 직원’을 산업 현장에 적용하는 사업을 추진하고 있다.