김민석 국무총리는 20일 "공평한 정보접근권, 균등한 참여권, 자기책임 원칙을 전제로 하는 민주주의의 작동을 위해 정보왜곡, 정보격차, 정보무책임을 막을 방법을 찾아야 한다"며 "지금이 골든타임"이라고 밝혔다.

김 총리는 이날 오전 서울 중구 대한상공회의소에서 'K-민주주의의 소명 : 인공지능(AI) 시대의 민주주의' 연설을 통해 이같이 말했다.

그는 "AI를 통해 민주주의가 강화될 수 있다는 낙관론과 디지털 전제주의·중우정치가 등장할 수 있다는 비관론 둘 다 가능하다"면서 "실제로 AI 기반 기술은 한국에선 빛의 혁명을 도운 응원봉이 됐고, 이란에선 감시국가를 지탱하는 도구가 됐다"고 밝혔다.

이어 "AI 기술이 아니라 인간의 선택과 절제가 민주주의의 열쇠인 것"이라고 강조했다.

김 총리는 "오늘날 우리는 추천·랭킹·피드·검색이 구성하는 '개인화된 세계'에서 정치를 접한다. 그 세계는 가치중립적이지 않다"며 "알고리즘의 최적화 대상은 진실이 아닌 참여, 즉 클릭, 체류, 공유로 알고리즘 큐레이션은 사회적 공론장을 잘게 분절하고 집단 간의 상호이해를 낮추는 방향으로 작동할 수 있다"고 밝혔다.

이어 "내겐 진실인 것이 상대에겐 가짜뉴스가 되고, 상대의 합리적 비판이 내겐 악의적 공격이 된다"며 "서로 다른 현실 속에서 살아가는 현실의 파편화가 민주주의의 중대 위협 요인이 됐다"고 말했다.

그는 "사람들이 점점 더 많은 판단을 AI에 맡기는 상황에서 과거처럼 헌법과 선거제도만으로 민주주의가 방어될 수 있을까"라면서 "AI를 활용한 의사 결정, 정책 수렴, 참여민주주의를 강화해야 한다"고 밝혔다.

이어 "AI 생성 콘텐츠에 대한 워터마크 표시 의무화와 가짜뉴스 탐지기술 강화로 선거왜곡과 정보왜곡을 막아야 한다"며 "AI 거버넌스 및 투명성을 확보하고, 민간기업과 기술엘리트의 독점을 막기 위해 시민과 정부가 AI 기술 개발에 적극 참여하도록 해야 한다"고 말했다.

김 총리는 "디지털 민주시민 교육과 AI 리터러시(문해력) 교육을 강화해 AI 격차, 참여격차를 줄여야 하고, 정부-기업-시민사회 협력 거버넌스를 구축해야 한다"며 "한국은 AI 민주주의 실현을 위한 여러 과제를 적극적으로 추진하되 특별히 정부-기업-시민사회 협력 거버넌스 구축과 글로벌 거버넌스 구축을 선도해야 한다"고 강조했다.

이어 " 한국 민주당은 단순한 참여민주주의와 1인1표를 넘어 교육과 토론에 의한 실질적 참여를 보장하는 세계 최고, 최대의 대규모 숙의민주주의 정당으로 발전하는데 AI를 적극 활용해 전 세계의 정당민주주의, AI 민주주의를 선도해야 한다"고 밝혔다.

lgirim@news1.kr