[이데일리 한광범 기자] 정부가 내년 AI 성능·인프라에 6조원 넘는 예산을 투입하는 반면 안전·신뢰 분야에는 274억원을 편성하는 데 그친 것으로 나타났다. AI 개발 속도에 맞춰 안전 분야 투자와 인력도 대폭 늘려야 한다는 지적이 제기됐다.

이주희 더불어민주당 의원은 6일 국회 과학기술정보방송통신위원회의 과학기술정보통신부 국정감사에서 “가속페달은 급속히 키워져 가고 있는데 브레이크는 지금 그대로인 상황”이라며 AI 안전 분야 예산과 인력 확충을 요구했다.

실제 내년도 과기정통부 소관 AI 예산 9조4308억원 가운데 성능·인프라 예산은 6조1490억원인 반면 안전·신뢰 예산은 274억원에 그쳤다. 격차는 224대1로, 2024년 36대1보다 크게 벌어졌다.

내년 성능·인프라 예산은 올해보다 116% 늘어나는 반면 안전·신뢰 예산 증가율은 36%에 그친다. 이 의원은 AI 성능 향상을 위한 투자가 빠르게 확대되는 만큼 안전 분야 투자도 이에 맞춰 늘릴 필요가 있다고 지적했다.

이 의원은 “안전예산 1% 확보를 내년 예산부터 반영해야 하지 않겠느냐”며 “당장 1%가 어렵다면 그 단계라도 과기정통부가 제시해야 한다”고 요구했다. AI안전연구소 인력 부족도 지적했다. 이 의원은 국내 AI안전연구소 인력이 26명에서 38명으로 늘었지만 해외 주요국보다 부족하다며 인력과 예산 확대를 촉구했다.

또 오픈AI가 공개한 해외 사고 사례를 거론하며 정부 지원 AI 모델이 학습·시험 과정에서 외부 접속을 어디까지 허용하는지, 이상행동 발생 시 누가 중단하고 보고하는지 등 안전 통제체계를 명확히 해야 한다고 지적했다.

이 의원은 시험 중인 AI가 허용된 범위를 넘어 외부 시스템에 접근한 사례를 들어 “개발 중인 AI에 대해서는 안전설계 확인과 점검, 신속한 통보 모두 각 단계별로 촘촘히 통제돼야 한다”고 강조했다.

배경훈 부총리 겸 과기정통부 장관은 관련 해외 사고에 대해 국내 기관의 피해는 아직 확인되지 않았다고 설명했다. 그러면서 “고영향 AI나 AI의 안전성을 평가할 때 영국의 안전연구소에 많이 의뢰한다”며 “안전연구소의 인력과 예산을 늘려 역량을 확보하는 일이 굉장히 중요하다”고 밝혔다.

과기정통부는 보안 특화 AI 모델과 프론티어 AI 사업도 AI 안전 대응의 한 축으로 추진하고 있다. 자체적인 AI 사이버 안보 대응 역량을 확보하는 동시에 국제사회에서 AI 안전 기준을 선도할 수 있는 역량도 갖춰나간다는 방침이다.

배 부총리는 “국가 AI 안전생태계 조성 마스터플랜을 12월 수립하고 발표할 계획”이라며 “국가 AI 안전관리체계 구축, 첨단 AI 안전대응역량 강화, 국민 일상의 AI 환경 조성 등을 촘촘하게 준비하고 대응할 수 있는 체계를 만들어가겠다”고 밝혔다.