그러나 빅테크의 기술 발전 속도를 국가 규제가 따라갈 수 있을지에 대해서는 회의론도 적지 않다. 지난 12일 한국정당학회가 주최하고 국가AI전략위원회가 후원한 ‘AI와 민주주의’ 세미나에서는 한국형 AI 안전판이 넘어야 할 과제가 집중적으로 제기됐다.
[이데일리 김일환 기자]
첫 번째 쟁점은 국가의 검증 역량이다. 송경호 ETRI AI안전연구소 박사는 앤스로픽의 최신 모델 검증 과정에 참여한 영국 AI안전연구소(AISI) 사례를 소개하며 “최신 거대언어모델 검증 기간이 과거 수개월에서 최근 1~2주 수준으로 단축됐다”고 설명했다. 그는 “정부 기관이 사실상 제한된 시간 안에 초거대 AI의 위험성을 평가해야 하는 상황”이라며 “기술 발전 속도가 규제 역량을 압도하고 있다”고 지적했다.
AI 기업과 정부 사이의 책임 공백도 새로운 문제로 떠오르고 있다. 주요 AI 기업들은 자체 위험평가 체계를 운영하고 있지만, 위험 수준이 일정 기준을 넘어서면 사실상 정부의 개입과 통제를 요구한다. 반면 정부는 기술을 충분히 이해하고 검증할 역량과 시간이 부족해 책임을 떠안기 어려운 상황이다.
이는 최근 미국 정부의 앤스로픽 모델 외국인 접속 제한 조치를 둘러싼 논란과도 맞닿아 있다. 앤스로픽은 해당 조치에 대해 “안전장치 우회 가능성에 대한 과도한 해석”이라고 반발했다. 기업은 “국가가 책임져야 한다”고 주장하고, 국가는 “감당하기 어렵다”고 맞서는 구조가 형성되면서 AI 거버넌스의 공백이 현실화하고 있다는 지적이 나온다.
김의영 국가AI전략위원회 민주주의분과위원장(서울대 교수) 사진=이데일리 김현아 기자, 제미나이로 보정
이 같은 문제의식 속에서 국가AI전략위원회는 지난 4월 민주주의분과를 출범시키고 ‘알고리즘 투명성·책임성 위원회’와 ‘K-AI 민주주의 지수’ 도입을 추진 중이다. 민주주의분과를 이끄는 김의영 서울대 교수는 “공공 AI 전환(AX)을 넘어 AI 기반 사회에 걸맞은 민주정부 구현 전략을 마련하고 있다”며 “기업과 시민사회, 노동계 등 다양한 이해관계자들과 논의를 이어갈 계획”이라고 밝혔다. 임성학 서울시립대 교수는 “현재 국가 AI 정책과 예산은 산업 육성에 집중돼 있는 반면 민주주의 보호 장치는 상대적으로 부족하다”고 지적했다.
알고리즘 투명성·책임성 위원회는 부처 독립 조직으로 시민 삶에 영향을 미치는 AI 모델을 사전에 평가하는 역할을 맡고, K-AI 민주주의 지수는 알고리즘의 민주적 통제 수준과 시민 참여 정도를 측정하는 지표로 활용한다는 구상이다.
◇“민주적 AI의 정답은 누가 정하나”
하지만 규제 기구를 만드는 것만으로는 문제를 해결할 수 없다는 반론도 적지 않다.
송 박사는 “민주적인 AI를 만들려면 무엇이 민주적인 답변인지에 대한 사회적 기준부터 마련돼야 한다”며 “정치학자들이 AI를 검증할 수 있는 테스트셋을 제시해야 한다”고 말했다.
역사·정치·영토 문제처럼 사회적 합의가 완전히 이뤄지지 않은 사안에서 어떤 답변이 민주적이고 중립적인지 정의되지 않는다면, AI를 평가할 기준 자체가 없다는 의미다.
김태균 KAIST 교수 역시 AI가 사회적 갈등을 자동으로 조정할 수 있다는 기대에 경계심을 드러냈다. 그는 “이미 사회가 강한 진영 논리에 갇혀 있는 상황에서 AI가 아무리 객관적인 중재안을 제시하더라도 그 결과물 자체가 정치적 불신의 대상이 될 수 있다”고 말했다.
이처럼 전문가들은 한국형 AI 거버넌스의 성패가 위원회 신설 자체가 아니라 사회적 합의와 데이터 인프라 구축에 달려 있다고 입을 모았다. 정치학·사회과학계가 헌법 가치와 판례, 사회적 합의를 반영한 AI 학습·평가용 기준 데이터셋을 마련하고, 이를 토대로 기술계가 검증 체계를 구축해야 한다는 것이다.
K-가드레일의 핵심은 위원회의 숫자가 아니라 AI가 무엇을 기준으로 학습하고 판단할 것인지에 대한 사회적 합의를 얼마나 정교하게 만들어낼 수 있느냐에 있다는 평가다.
