AI 기본법 개정안 시행을 앞두고 SK텔레콤(017670), KT(030200), LG유플러스(032640) 등 통신 3사가 생성형 AI 표시와 위험관리, 내부 거버넌스 등 법 준수를 위한 준비를 마쳤다.

이번 AI기본법 개정안의 가장 중요 요소는 '고영향 AI 서비스'의 경우 직접적인 정부 규제를 받게 된다는 점인데, 현재 통신 3사가 운영 중인 서비스 가운데 법률상 '고영향 AI'에 해당하는 서비스는 없는 것으로 파악됐다.

20일 업계에 따르면 AI 기본법 개정안은 21일부터 시행된다.

AI 기본법은 AI 산업 육성과 신뢰 기반 조성을 위한 국가 정책 방향과 안전성 확보, 산업 지원 근거 등을 담은 국내 첫 AI 법체계다. 올해 1월 제정됐으며, 21일부터 시행되는 개정안에는 법 적용을 위한 세부 기준이 담겼다.

법에 따라 AI 서비스를 개발·운영하는 기업은 생성형 AI 활용 사실을 이용자에게 사전 고지하고 AI 생성 결과물에 표시해야 한다. 또 고영향 AI 해당 여부를 검토하고 위험·영향평가와 내부 거버넌스 체계를 구축하는 등 AI 리스크 관리 체계를 갖춰야 한다.

통신 3사 모두 현재 운영 중인 AI 서비스 가운데 AI 기본법상 '고영향 AI'에 해당하는 서비스는 없는 것으로 파악됐다.

고영향 AI는 사람의 생명·안전 또는 기본권에 중대한 영향을 미칠 우려가 있는 AI를 말한다. 의료·금융·채용·공공서비스 등에서 활용되는 AI가 대표적이며, 일반 AI보다 강화된 위험·영향평가와 안전관리 의무를 적용받는다.

다만 각 사는 앞으로 신규 AI 서비스를 출시하거나 기존 서비스를 변경할 경우 법에서 정한 기준에 따라 고영향 AI 해당 여부를 검토하고 필요한 관리 체계를 적용할 계획이다.

통신 3사도 법 시행에 맞춰 전담 조직을 구성하고 생성형 AI 표시, 고영향 AI 판별, 위험·영향평가 등 법에서 요구하는 관리 체계를 마련했다.

SK텔레콤은 AI 기본법 시행에 맞춰 'AI 거버넌스 전담팀'과 'AI 레드팀'을 중심으로 전사 AI 거버넌스 체계를 강화했다.

거버넌스 전담팀은 AI 관련 정책 수립과 내부 기준 마련, 법령 준수 체계 운영을 총괄하며, AI 레드팀은 AI 서비스의 리스크와 취약성을 사전에 점검하는 역할을 맡는다.

지난해 'AI 거버넌스 포털'을 구축해 AI 기본법 주요 내용과 준수 사항을 임직원에게 공유하고 있다. 포털은 SK텔레콤의 AI 거버넌스 원칙 'T.H.E. AI'를 기준으로 AI 서비스의 위험과 기회 요인을 분석하고 위험 수준별 체크리스트 준수 여부를 진단한다.

이용자 프라이버시 보호와 AI 거버넌스를 연계하기 위해 CPO(최고개인정보보호책임자)가 관련 업무를 총괄하며 개인정보 보호와 AI 안전관리를 함께 관리하는 체계를 운영하고 있다. SK텔레콤은 국내 통신사 최초로 AI경영시스템 국제 표준(ISO/IEC 42001 인증)을 취득했다.

KT는 'Responsible AI'(신뢰할 수 있는 AI, 책임감 있는 AI 센터)를 신설하고 국내 통신사 최초로 관련 최고책임자(CRAIO)를 임명했다.

센터는 AI의 기획·개발·운영·활용 전 과정에서 AI 윤리 원칙을 적용하고, 안전성과 신뢰성을 확보하기 위한 정책과 관리 체계를 총괄한다.

별도로 분야별 외부 전문가로 구성된 'KT 책임 있는 AI 자문위원회'도 운영한다. AI 윤리와 평가 체계의 적정성을 외부 전문가 관점에서 점검하기 위한 조직이다.

이달 초에는 유엔(UN)과 국제전기통신연합(ITU) 주관 글로벌 행사에 참여해 책임감 있는 AI와 글로벌 AI 표준 협력 방안 등을 논의하기도 했다.


LG유플러스도 AI 리스크 관리 체계 구축·운영을 전담하는 'AI 거버넌스 조직'을 운영하고 있다. CTO, 정보보안센터, 법무실 등이 참여한다.

조직은 법무·보안·개인정보보호 조직과 협업해 위험·영향평가를 수행하고 AI 서비스 기획부터 운영까지 리스크를 점검·관리한다.

법 시행에 맞춰 자사가 개발·운영 중인 AI 서비스를 전반적으로 점검하고 법에서 요구하는 의무 사항을 확인해 필요한 조치를 마쳤다. AI 기반 서비스에 대해서는 사전 고지도 완료했다.

LG유플러스 관계자는 "현재 운영 중인 AI 서비스 가운데 AI 기본법상 고영향 AI에 해당하는 서비스는 없다"며 "다만 신규 서비스를 도입하거나 기존 서비스를 변경할 경우 고영향 AI 해당 여부를 검토하고 해당될 경우 AI 경영시스템 기반의 리스크 관리 체계에 따라 위험·영향평가와 관련 기록 관리 등 법령상 의무를 이행할 계획"이라고 설명했다.

업계 관계자는 "AI 기본법 시행에 맞춰 기업들도 생성형 AI 표시와 AI 거버넌스, 리스크 관리 체계 등 필요한 준비를 대부분 마쳤다"며 "AI 기술 변화가 빠른 만큼 세부 기준과 적용 사례도 지속적으로 보완될 필요가 있다"​고 말했다.

minju@news1.kr