SK텔레콤(017670)이 사내 인공지능(AI) 에이전트의 업무 정확도를 높이기 위해 기업 데이터부터 정비하고 있다. 기존 데이터 항목에 업무상 의미와 설명을 부여한 결과, AI 에이전트의 질문 정답률이 약 40%에서 80% 이상으로 높아졌다는 설명이다.

김인수 SK텔레콤 AI Board 팀장은 지난 30일 경기 이천시 SK텔레콤 인재개발원에서 열린 인공지능 전환(AX) 전략 발표에서 이 같은 데이터 정비 성과를 공개했다.

기업이 보유한 데이터는 대부분 기존 업무 시스템이나 개발자 중심으로 관리돼 왔다. 데이터 항목의 이름과 형식만으로는 실제 업무에서 어떤 의미로 쓰이는지 파악하기 어려운 경우가 많다.

사람은 업무 경험을 바탕으로 데이터의 의미를 이해할 수 있지만, AI 에이전트는 필요한 데이터를 찾아도 그 의미를 정확히 해석하지 못할 수 있다. AI를 업무에 투입하기 위해 모델의 성능뿐 아니라 데이터 자체를 AI가 이해할 수 있도록 정비해야 하는 이유다.

SK텔레콤이 개발한 '데이터 데스크'(Data Desk)는 사내 데이터 항목에 업무상 의미와 설명을 부여하는 기술이다.

김 팀장은 "데이터 항목의 의미와 설명을 정비하기 전에는 AI 에이전트의 질문 정답률이 약 40%에 머물렀지만, 정비 이후에는 80% 이상으로 높아졌다"고 밝혔다.

AI 모델을 교체하거나 에이전트 수를 늘리는 것만이 아니라, 기존 데이터의 의미를 정리하는 작업으로도 업무 정확도를 개선할 수 있다는 것이다.

DB 9000개 이상·데이터 항목 30만 개…AI 운영 비용도 과제
SK텔레콤이 실험한 네트워크 관련 데이터베이스(DB)는 9000개 이상이며, 데이터 항목도 약 30만 개에 달한다.

이처럼 방대한 데이터를 AI 에이전트가 활용하려면 필요한 정보를 정확히 찾고 해석하는 능력뿐 아니라 처리 비용도 관리해야 한다.

SK텔레콤은 데이터 처리에 드는 비용을 줄이기 위해 자체 AI 모델을 활용하고 있다. 업무에 따라 AI 모델을 적절히 활용하면서 운영 효율을 높이겠다는 구상이다.

사내 AI 에이전트가 빠르게 확산하면서 비용 관리의 중요성도 커졌다.

김 팀장에 따르면 SK텔레콤의 사내 AI 에이전트는 한때 7000개 수준까지 늘어났으며, 현재 정기적으로 운영되는 에이전트는 약 1500개다.

김 팀장은 "각각의 에이전트가 얼마나 효과를 내는지, 회사가 여기에 토큰 비용을 지불하는 것이 효과적인지 평가하고 있다"고 설명했다.

김 팀장은 "압축이 목적이라기보다는 성과를 내고자 하는 것"이라며 "효과에 따라 에이전트가 더 만들어질 수도 있고 줄어들 수도 있다"고 말했다.

민감정보 노출 막고 업무 절차도 정비
AI 에이전트가 사내 데이터를 폭넓게 활용하려면 개인정보와 민감정보를 보호하는 체계도 필요하다.

SK텔레콤은 민감한 원문 데이터를 AI에 직접 노출하지 않고 필요한 처리 결과만 전달하는 'Z.E.Z'(Zero Exposure Zone) 기술을 개발해 특허를 출원했다.

AI가 업무에 필요한 정보를 활용하면서도 원문 데이터에 직접 접근하지 않도록 하는 방식이다.

직원들의 업무 흐름을 AI가 이해할 수 있는 형태로 정리하는 '워크맵'(Work Map)도 개발하고 있다.

기존 업무 자료를 토대로 업무 절차를 파악하고, 이 가운데 AI 에이전트가 수행할 수 있는 업무를 발굴하는 기술이다.

SK텔레콤은 데이터 접근과 시스템 연계, 보안 등 개별 직원이 해결하기 어려운 문제에 대응하기 위해 'AX 이네이블러 태스크포스(TF)'도 운영하고 있다.

김 팀장은 "개인이 풀 수 있는 문제들은 상당 부분 풀렸지만 이제는 회사 차원의 지원이 필요한 과제들이 부각되고 있다"고 말했다.

이어 "SK텔레콤의 AX 방향은 개인에서 조직으로, 활용에서 성과로 진화하고 있다"며 "이제는 조직 차원에서 실질적인 성과를 만들어 가고자 한다"고 강조했다.

smk5031@news1.kr