정부가 복지 수혜자 선정이나 위험 탐지처럼 국민의 권리와 이해관계에 직접 영향을 미치는 업무에 인공지능(AI)을 활용할 경우 개인정보 처리의 적법성과 AI의 편향·정확성을 더욱 엄격히 검토하도록 했다.

개인정보보호위원회는 23일 열린 제11회 과학기술관계장관회의에서 이 같은 내용의 '공공 인공지능 전환(AX) 프라이버시 보호 안내서'를 공개했다.

안내서는 공공기관이 AI를 도입하는 과정에서 개인정보 처리 문제를 사전에 확인하고 필요한 보호조치를 설계할 수 있도록 마련됐다. AI 관련 사전 실태점검과 사전적정성 검토 결과 등 실제 사례를 토대로 법적 기준과 안전조치를 담았다.

개인정보위는 공공 AX 추진 과정을 △사전 설계 △개발·구축 △시스템 적용·관리 등 3단계로 나누고 10대 핵심 점검사항을 제시했다.

사전 설계 단계에서는 AI 도입 목적과 처리할 개인정보 항목을 명확히 하고 수집·이용·제공의 법적 근거를 확인해야 한다. 개발·구축 단계에서는 학습데이터 가명·익명 처리와 개인정보 입출력 필터링, 접근권한 관리 등을 적용하도록 했다.

시스템 적용 이후에는 배포 전후 테스트를 통해 개인정보 유출·노출 가능성을 지속해서 점검해야 한다. 개인정보 열람과 정정·삭제, 처리정지 등 정보주체의 권리를 보장할 절차도 마련하도록 했다.

이번 안내서는 공공 AI가 국민의 권리에 미치는 영향이 클수록 보호조치를 강화하는 차등 관리 기준을 제시했다.

개인정보위는 공공 AI를 △기초업무 보조 △정보 연계·분석·추천 △선별·판단 등 세 가지 유형으로 구분했다.

자료 요약이나 검색, 민원 챗봇 등 기초업무 보조 유형에는 AI에 입력할 수 있는 정보와 금지되는 활용 사례를 명확히 안내하도록 했다. 여러 데이터베이스를 연결해 맞춤형 정보를 분석·추천하는 경우에는 목적 외 이용과 과도한 개인정보 추론 위험을 중점적으로 살피도록 했다.

행정 수혜자 선별이나 위험 탐지 등 공공 의사결정에 AI를 직접 활용하는 경우에는 개인정보 처리의 필요성과 효과, 법적 근거를 더욱 면밀히 검토해야 한다. 데이터의 정확성과 대표성, AI 시스템의 성능도 지속해서 점검하도록 했다.

AI 판단이 개인정보보호법상 자동화된 결정에 해당하면 국민이 결정을 거부하거나 설명·검토를 요구할 수 있는 대응체계도 마련해야 한다.

각 공공기관은 개인정보 보호책임자(CPO)와 최고인공지능책임자(CAIO)를 중심으로 개인정보보호 부서와 AX 현업부서 간 협력체계를 구축해야 한다. 개인정보위는 법령 해석과 사전적정성 검토, 가명정보 처리 등을 지원하는 '공공 AX 프라이버시 헬프데스크'를 상시 운영할 계획이다.

kxmxs4104@news1.kr