"대한민국은 AI 속도를 늦추지 않는 대신, 스스로 먼저 검증하고 그 결과를 공개해야 한다."
최근 전 세계적으로 불거진 인공지능(AI) 속도조절론을 놓고 한국이 AI 안전·통제 역량을 선제적으로 보여줘야 한다는 제언이 나왔다. AI 개발 속도를 늦추지 않고, 책임 있는 모습을 보여줌으로써 주도권을 쥐어야 한다는 얘기다.

국가AI전략위원회는 1일 오후 'AI 개발 속도조절 관련 세미나'를 열고 한국의 대응 방향을 논의했다.

이원재 국가AI전략위 보안특위 위원장은 이날 기조 발제에서 "대한민국의 AI 시계는 늦추지 않되 위험보다 통제와 책임의 시계를 더 빠르게 돌려야 한다"고 말했다.

세미나에는 국가AI전략위원뿐만 아니라 과학기술정보통신부·개인정보보호위원회 등 관계부처, 유관기관 및 협회 관계자 70여 명이 참석했다. 온라인 생중계도 병행됐다.

'글로벌 프런티어 AI 개발 속도조절론과 대한민국의 AI 대응 전략'을 주제로 한 이원재 위원장의 기조 발제가 이뤄졌으며, 이어 최대선 숭실대 AI안전성연구센터장, 김성훈 업스테이지 대표, 이한울 에임인텔리전스 부사장 등의 발표와 함께 김명주 AI안전연구소장, 김동환 포티투마루 대표 등이 참석한 패널 토론이 진행됐다.

"AI 개발 늦추기보다 안전 역량 갖춰야"
이날 하정우 국가AI전략위 상근 부위원장은 영상 축사를 통해 최근 프런티어(최상위급) AI 모델의 발전과 이에 따른 위험성 증가와 속도 조절론을 언급하며, "우리가 주도적으로 AI 안전성에 대한 역량을 갖고 목소리를 내야 한다"고 강조했다.

한국이 AI 시대에 경쟁력을 갖고 글로벌 선도 국가가 되려면 AI 안전성에 대한 역량도 함께 강화해야 한다는 진단이다.

특히 이원 위원장은 지금 언급되는 속도 조절이 AI 개발 중단이 아니라, AI의 능력이 안전장치보다 빠르게 발전하지 않도록 외부 평가와 기업 간 안전 기준 등을 마련하자는 취지라는 점을 분명히 했다.

이 위원장은 "가속은 멈추지 않고, 책임성·회복력·지속 가능성을 한 묶음으로 늘려가야 한다"며 "앞으로 검증되지 않은 AI보다 안전성과 복원 능력이 입증된 AI가 시장과 정부의 신뢰를 얻는다. 대한민국이 지향해야 할 것은 완전히 검증되고 활동력 있는 AI 생태계를 만드는 것"이라고 강조했다.

최대선 센터장도 "늦추기 대신 할 수 있는 대응부터 준비해야 한다"며 AI 모델 검증·악용 통제·봉쇄·추적 등의 대응 체계를 갖춰야 한다고 밝혔다.

최 센터장은 AI 속도조절론과 AI 위험성이 제기되는 이유가 AI 모델의 능력을 정확히 모르기 때문이라고 진단했다. 이어 한국의 경우 AI기본법이라는 제도는 갖췄지만 AI 모델의 능력을 보는 기준과 규율이 없다고 짚었다.

이에 따라 단기적으론 고시와 사업 지침을 개정해 평가·개발 환경 요건, 정지 권한자, 사고에 대한 정의, 정부 지원 모델의 공개 기준 등을 마련해야 한다고 밝혔다. 또 중기 대응으로는 시행령을 통해 고영향 영역을 추가하고 모델에 대한 독립 평가와 배포 조건을 연계해야 한다고 했다. 장기적으로는 법을 개정해 내부 접근을 포함한 조사권을 마련해야 한다고 제언했다.


"앞선 자 감속과 추격자 감속은 달라"
김성훈 대표는 "앞선 자의 감속과 추격자의 감속은 다르다"며 업스테이지가 AI 개발에 속도를 내는 이유를 말했다. 글로벌 프런티어 AI 모델이 초지능(Super Intelligence, SI)을 넘어설 때 AI 스스로 성능을 개선하며 폭발적으로 속도를 내는 반면, 추격자의 AI 모델은 멈추면 성능이 처지면서 격차가 더욱 크게 벌어질 거라는 얘기다.

김 대표는 최근 배경훈 부총리 겸 과기정통부 장관의 발언을 인용해 “속도 조절이 아니라 속도 책임이 필요하다”며 외부 검증과 가중치 공개, 자체적으로 데이터를 돌리는 온프레미스 폐쇄 환경 구축, AI의 자기 개선에 안전장치 도입, AI안전연구소의 안전 평가 등을 마련해야 한다고 강조했다.

보안 스타트업 에임인텔리전스의 이한울 부사장도 한국이 글로벌 속도 조절 논의에 참여하고, AI 위험성을 판단할 자체 역량, 검증된 보안 기술을 활용할 현장 여건을 갖춰야 한다고 입을 모았다.

한편, AI 모델이 인간의 통제를 벗어나는 사고는 지속해서 발생하고 있다. 지난 7월 오픈AI의 비공개 모델이 내부 사이버보안 벤치마크 테스트 과정에서 AI 개발 플랫폼 허깅페이스를 해킹한 사건을 시작으로 앤트로픽, 메타, 중국의 '키미 K3' 등에서 비슷한 사례가 이어졌다. 최근에는 오픈AI의 AI 에이전트가 미국 및 호주 정부 웹사이트에 무단으로 접근한 사례와 함께 챗GPT 이용자로부터 제공받은 53개의 이미지를 유출한 사실도 확인됐다.

이 같은 상황이 지속되자 다리오 아모데이 앤트로픽 CEO는 지난 12일 AI의 능력이 안전하게 통제할 수 있는 수준보다 빠르게 발전할 가능성을 경고하며 프런티어 AI의 성능 향상 속도를 늦출 필요가 있다고 주장했다. 샘 올트먼 오픈AI CEO도 이에 공감을 나타냈다.

앤트로픽, 오픈AI 등은 속도 조절을 촉구한 반면, 엔비디아를 비롯해 미국·중국 정부는 속도 조절론에 비판적 입장을 나타냈다.

배경훈 부총리는 "지금 대한민국 AI에 필요한 것은 속도 조절이 아니라 속도 책임이다"라며 AI 속도 조절론에 여러 차례 선을 그은 바 있다.

Ktiger@news1.kr