정부가 인공지능(AI)의 오류와 위험 사례를 찾아내는 국민 모니터링단을 운영한다.

과학기술정보통신부와 AI안전연구소는 12일 서울 영등포구 여의도 글래드 호텔에서 AI 안전 국민 모니터링단 'AI 안전 지킴이' 발대식을 열었다.

이날 발대식에는 엄열 과기정통부 인공지능정책실장을 비롯해 김명주 AI안전연구소장, AI 안전 지킴이 등 50여 명이 참석했다.

AI 안전 지킴이는 학생, 직장인, 가사종사자, 프리랜서, 자영업자 등 AI 안전에 관심 있는 국민 80명으로 구성됐다. 이들은 지난 8월과 9월 두 차례 진행된 공개 모집에서 지원자 138명 중 최종 선발됐으며, 10대부터 60대 이상까지 다양한 연령층으로 구성됐다.

내년 8월까지 활동하는 AI 안전 지킴이는 생성형 AI의 △사실 왜곡(환각) △편향·차별 △보안 취약점 △기술적 결함 등 4대 중점 분야에서 오류·위험 사례를 중심으로 모니터링 활동을 한다.

이들이 제보한 사례는 정확성, 위험도, 재현 가능성, 활용 가능성 등 유효성 검증을 거쳐 확정된다. 확정된 사례는 AI 안전성 평가와 위험 연구의 기초 자료 등으로 활용될 예정이다.

과기정통부와 AI안전연구소는 관련 기업에 사례를 공유하는 등 AI 기업과 지속해서 소통하며 AI를 안전하게 쓸 수 있는 환경을 구축한다는 방침이다.

Ktiger@news1.kr