에이아이웍스는 미국과 유럽연합(EU), 영국 등 주요국의 AI 규제 및 거버넌스 사례를 분석해 ▲공공 AI 신뢰성 평가 의무화 ▲AI 표준계약조항 도입 ▲취약계층 보호체계 강화 등 8개 핵심 정책 과제를 제안했다.
특히 복지·의료·교육 등 국민 생활에 직접적인 영향을 미치는 공공 분야 AI의 경우 단순한 기술 도입 여부를 확인하는 수준을 넘어 안전성과 신뢰성을 검증하는 체계가 필요하다고 강조했다.
이를 위해 공공 고영향 AI에 대해 배포 전 신뢰성 및 위험성 평가 결과 제출을 의무화하고, 운영 이후에는 성능 저하나 편향, 오류 발생 여부를 지속적으로 점검하는 사후 모니터링 체계를 마련해야 한다고 주장했다.
또한 고위험 AI 시스템에 대해서는 제3자 평가 또는 자가평가 결과를 공개해 투명성을 확보할 필요가 있다고 제안했다.
글로벌 AI 규제 흐름을 반영한 제도 개선 방안도 제시했다. AI 개발 기업과 이를 활용하는 공공기관 간 책임 범위를 명확히 구분하고, 공공기관에는 AI 활용 목적 공개와 사고 발생 시 신고 의무를 부여해야 한다는 것이다.
아울러 공공 데이터의 무단 활용을 방지하기 위해 AI 표준계약조항(MCC-AI)을 도입하고, 계약 종료 시 데이터 반환·삭제 의무를 명문화해야 한다고 주장했다. 특정 기업의 기술에 종속되는 이른바 ‘벤더 락인(Vendor Lock-in)’을 방지하기 위해 개방형 API와 표준 데이터 포맷, 데이터 이식성 확보 방안도 조달 지침에 포함해야 한다고 덧붙였다.
AI 확산 과정에서 소외될 수 있는 취약계층 보호 방안도 의견서에 담겼다. 에이아이웍스는 장애인·고령자·기초생활수급자 등 사회적 취약계층과 AI 활용 역량이 상대적으로 낮은 계층을 구분해 차등 지원하는 체계를 제안했다.
또한 AI 공급자에게 시각·청각 장애인을 위한 접근성 기능과 다국어 지원 등 최소 요건을 의무화하고, AI 자동화 의사결정으로 불이익을 받을 경우 설명을 요구하거나 인간의 재검토를 요청할 수 있는 권리를 보장해야 한다고 주장했다.
국가 AI전략위원회 데이터분과 위원으로 활동 중인 윤석원 에이아이웍스 대표는 “자율형 AI 에이전트가 공공 영역으로 빠르게 확산되는 상황에서 AI의 안전성과 신뢰성을 검증할 수 있는 평가 체계 구축은 더 이상 미룰 수 없는 과제”라며 “현장의 경험과 글로벌 규제 동향을 연결하는 정책 제안을 지속해 나가겠다”고 말했다.
한편 에이아이웍스는 AI 데이터 구축 및 AI 시스템 테스트 사업을 수행하고 있으며, AI 에이전트 신뢰성 검증 솔루션 ‘AgentRigor’를 통해 금융·공공·의료 등 고신뢰성이 요구되는 분야의 AI 도입을 지원하고 있다.
