인공지능(AI)을 활용한 대테러 활동에서 인권 보호가 정책의 실효성과 지속가능성을 결정하는 핵심 요소라는 내용을 담은 경찰 연구진의 논문이 국제학술지에 게재됐다.

경찰대학 치안정책연구소는 조정혜 경위가 AI 기반 예방적 대테러 전략의 효과성과 인권침해 위험을 분석한 논문을 스코퍼스(SCOPUS) 등재 국제학술지 'Security and Human Rights'에 게재했다고 15일 밝혔다.

'AI 시대의 예방적 대테러: 전략적 효과성과 인권침해 위험'이라는 제목의 이번 논문은 온라인 공간을 중심으로 변화하는 테러 위협에 대응하기 위해 각국이 확대하고 있는 AI 기반 대테러 전략이 국가안보와 인권에 미치는 영향을 분석했다.

조 경위는 유엔 인권최고대표사무소(OHCHR)의 원칙을 분석 기준으로 삼고 유럽연합(EU)의 인공지능법(AI Act)과 유럽안보협력기구(OSCE)의 관련 규범을 검토했다.

이를 통해 AI 기반 대테러 활동의 주요 인권침해 위험으로 △대규모 정보 수집 △감시에 따른 사생활 침해 △알고리즘 편향에 따른 차별적 표적화 △AI 판단 과정의 설명 가능성 부족으로 인한 적법절차 훼손 등을 제시했다.

특히 인권 보호가 대테러 활동의 효율성을 제한하는 요소가 아니라 정책의 실효성과 지속가능성을 결정하는 핵심 조건이라고 강조했다.

광범위한 감시와 불명확한 판단 기준은 시민의 신뢰를 떨어뜨리고, AI의 예측 오류와 오탐은 치안 자원의 비효율적인 배분으로 이어질 수 있다는 것이다. 특정 집단에 대한 과도한 권리 제한이 사회적 소외와 반발을 심화시켜 장기적으로 급진화 위험을 높일 가능성도 제기했다.

이에 따라 AI 기술의 활용 범위를 확대하는 것보다 이를 뒷받침할 법적·제도적 기반을 마련하는 것이 중요하다고 제안했다.

구체적인 과제로는 △명확한 법적 근거 마련 △정보 수집·분석 범위의 최소화 △기본권 제한에 대한 지속적인 필요성·비례성 평가 △알고리즘의 투명성과 설명 가능성 확보 △책임성 강화 및 독립적 감시체계 구축 등을 제시했다.

연구는 AI를 활용한 온라인 극단주의 콘텐츠 분석과 급진화 징후 탐색 등 예방적 대테러 활동의 가능성을 인정하면서도 기술적 효율성과 인권 보호가 함께 작동할 수 있는 제도적 조건을 갖춰야 한다고 강조했다.

논문이 게재된 'Security and Human Rights'는 네덜란드 헬싱키위원회의 후원 아래 1990년 창간된 국제학술지로, 안보와 인권 보호에 관한 연구를 다룬다.

조 경위는 2024년 국가공무원인재개발원이 주관한 제42회 공공인적자원개발 경연 연구개발 분야에서 1위를 수상한 바 있다.

copdesk@news1.kr