[이데일리 김현아 기자] 한국인공지능산업협회(회장 최용진)는 인공지능(AI)의 안전성과 신뢰성 확보를 위한 산업 적용형 기준 마련에 나선다. 협회는 ‘AI 안전·신뢰 표준화 포럼’을 출범하고, 현장 중심의 실행 가능한 표준 체계 구축에 본격 착수한다고 밝혔다.

이번 포럼은 과학기술정보통신부 산하 ICT 표준화 포럼의 일환으로 운영되며, AI 개발·이용사업자를 비롯해 데이터·보안 기업, 학계 및 전문가 등이 참여하는 산·학·연 협력 구조로 추진된다. 협회는 글로벌 표준인 ISO/IEC, NIST 등을 기반으로 산업 현장에서 실제 적용 가능한 AI 안전·신뢰 관리 기준을 도출하고, 이를 표준화하는 것을 목표로 하고 있다.

최근 AI 기술이 산업 전반으로 빠르게 확산되면서 단순한 성능 평가를 넘어 거버넌스, 위험관리, 운영관리, 책무 이행 등 관리 체계 전반을 아우르는 기준 마련의 필요성이 커지고 있다. 특히 AI 기본법 시행으로 사업자 책임이 강화되면서, 기업이 현장에서 바로 적용할 수 있는 구체적인 실행 기준과 운영 체계 구축이 핵심 과제로 떠올랐다.

협회는 이러한 산업 수요를 반영해 포럼을 통해 산업별 AI 활용 환경에 따른 위험 요소와 관리 기준을 도출하고, 이를 포럼 표준과 단체표준(TTA)으로 연계해 추진할 계획이다. 아울러 세미나, 가이드라인, 교육 프로그램 등을 통해 표준의 산업 확산도 병행한다.

한편 협회는 소프트웨어 및 AI 검증 전문기업 슈어소프트테크, 셀렉트스타와 함께 AI 신뢰성 검증을 위한 ‘AI-MASTER’ 인증 제도를 운영 중이다. 향후 포럼에서 도출된 표준을 인증 기준과 연계해 평가 체계의 정합성을 높이고, 인증 적용 범위도 확대해 나간다는 방침이다. 이를 통해 AI 안전·신뢰 확보를 위한 표준과 인증이 유기적으로 연결되는 산업 생태계 조성을 추진한다.

협회 관계자는 “이번 포럼은 글로벌 기준과 산업 현장을 연결하는 실질적인 실행 표준을 마련하는 데 목적이 있다”며 “TTA AI 신뢰성 얼라이언스와의 연계를 통해 국내 AI 신뢰성 검증 체계를 고도화하고 산업 전반으로 확산해 나가겠다”고 밝혔다.

자세한 사항은 한국인공지능산업협회 산업진흥본부를 통해 확인할 수 있다.