김종철 방송미디어통신위원회(방미통위) 위원장이 인공지능(AI) 기술 혁신의 자율성을 존중하면서도 데이터 남용과 알고리즘 편향 등 새로운 위험으로부터 이용자를 보호해야 한다고 강조했다.

김 위원장은 12일 서울 중구 포스트타워에서 방미통위와 정보통신정책연구원(KISDI)이 개최한 '행동하는 AI 에이전트 시대, 이용자보호 청사진을 그리다' 콘퍼런스 축사에서 이같이 밝혔다.

그는 "AI 생태계의 건전한 성장을 도모하는 동시에 이용자의 권익 보호와 신뢰할 수 있는 제도적 기반을 다지는 데 정책적 역량을 집중하고 있다"고 말했다.

이어 "AI 기술의 가속화는 업무 생산성 향상과 서비스 다양화라는 긍정적 혜택을 가져왔지만 데이터 남용, 알고리즘 편향성, 허위정보 확산, 취약계층의 디지털 위험 노출 등 전례 없는 과제도 던져주고 있다"고 진단했다.

그러면서 "기술의 진보가 아무리 눈부시더라도 그 바탕에 사람에 대한 존중과 안전이 담겨 있지 않다면 그 가치는 반감될 수밖에 없다"고 말했다.

김 위원장은 "기술 혁신의 자율성을 존중하되 위험을 예방하고 차단할 수 있는 이용자 보호를 위해 최선을 다하고 있다"고 설명했다.

안전한 AI 이용 환경을 조성하기 위한 기업과 학계, 정부의 협력 필요성도 강조했다.

김 위원장은 "단순히 제도를 정비하는 노력만으로는 안전한 AI 환경을 완성할 수 없다"며 "기술을 개발하는 기업의 윤리적 책무성과 학계·연구진의 전문적 혜안, 정부의 긴밀한 공조가 합쳐질 때 비로소 진정한 결실을 볼 수 있다"고 말했다.

이어 "이번 콘퍼런스에서 제시될 다양한 통찰이 이용자 보호 중심의 미래 규범을 세우는 든든한 이정표가 되기를 기대한다"고 덧붙였다.

smk5031@news1.kr