[이데일리 한광범 기자] 배경훈 부총리 겸 과학기술정보통신부 장관이 인공지능(AI) 스마트 안경을 악용한 불법촬영 문제에 대해 범부처 차원의 대응책을 마련하겠다고 밝혔다. AI를 이용한 사이버 공격과 공공서비스에 도입되는 AI의 편향성 문제에 대해서도 관계부처와 협력해 대응 체계를 강화하겠다는 입장을 내놨다.

배 부총리는 23일 국회 과학기술정보방송통신위원회 종합국정감사에서 AI 스마트 안경을 이용한 불법촬영 우려와 관련해 “범부처 차원에서 대응책을 수립해야 한다”며 “현재 준비 중인 가이드라인 마련 속도도 더 높이겠다”고 밝혔다.

이날 이정헌 더불어민주당 의원은 국감장에서 일반 뿔테 안경과 스마트 안경을 착용한 보좌진들을 등장시켜 외관상 구별이 어렵다는 점을 시연했다. 특히 스마트 안경의 촬영 여부를 알리는 발광다이오드(LED) 표시등을 저렴한 스티커로 가릴 수 있다는 점을 보여주며 불법촬영 방지 장치의 실효성에 의문을 제기했다.

이 의원은 국내 온라인 쇼핑몰에서 약 2000원에 판매되는 차단 스티커를 이용하면 촬영 표시등을 가릴 수 있다고 설명했다. 올해 확인된 스마트 안경 불법촬영 적발 사례만 3건에 달한다며 정부 차원의 대응이 시급하다고 지적했다.

정부의 대응이 미흡하다는 비판도 제기했다. 이 의원에 따르면 스마트 안경 관련 안전 대책을 문의한 결과 과기정통부 소관 13개 부서 모두 해당 사항이 없다고 답변했다. 이후 추진된 정책연구도 결과가 내년 여름에야 나올 예정이라는 것이다.

이에 배 부총리는 이번 주 국무회의에서 이재명 대통령도 AI 안경 관련 문제를 지적했다고 설명했다. 노동부와 교육부 등 관계부처의 대응도 필요하다며 현재 준비 중인 가이드라인 마련을 서두르겠다고 밝혔다.

◇AI로 PDF 비공개 정보 노출…기관 보안 허점 논란

과기정통부 산하 기관들의 정보보호 체계에 대한 지적도 이어졌다. 이진숙 국민의힘 의원은 과기정통부 산하 75개 기관을 조사한 결과 15개 기관에서 비공개 처리된 정보가 AI를 통해 확인되는 문제를 발견했다고 주장했다.

이 의원은 PDF 문서에서 검은색으로 가린 개인정보나 평가 자료를 AI에 입력하자 원래 내용이 드러났다고 설명했다. 일부 기관에서는 대학원생 등의 개인정보가 노출될 수 있고, 사업자 선정 과정의 평가위원별 점수와 정성평가 내용까지 확인할 수 있다고 지적했다.

배 부총리는 “말씀하신 것이 사실이라면 심각한 문제”라며 “정확히 분석하고 관련 사항을 빠르게 점검하겠다”고 답했다. 아울러 개별 기관의 정보보호 체계를 강화하는 동시에 AI를 활용한 새로운 형태의 보안 위협에도 대응하겠다고 밝혔다.

최근 잇따르는 해킹 사고와 관련해서는 AI의 활용 여부와 정부의 대응 체계가 쟁점이 됐다.

이주희 민주당 의원은 최근 연쇄적으로 발생한 해킹 사고에 AI가 개입했는지 질의하는 한편, 관계기관 간 조사 정보 공유가 원활하지 않다고 지적했다. 사이버 공격이 빠르게 진행되는 반면 정부 대응은 부처별로 분산돼 있다는 것이다.

배 부총리는 AI의 해킹 개입 여부에 대해 정확한 조사 결과가 나와야 한다며 현재로서는 AI를 활용한 침투였는지 명확하게 밝히기 어렵다고 답했다.

그러면서 “현재 국가안보실이 컨트롤타워가 돼 대응하고 있다”며 “부처 간 칸막이를 제거하기 위해 부총리로서 부처 협력 체계를 강화하겠다”고 밝혔다.

AI를 활용한 보안 위협에 대응하기 위한 기술 개발의 필요성도 강조했다. 배 부총리는 프론티어 AI 모델 개발을 통해 공격뿐 아니라 방어 역량도 확보할 수 있다며 기존 보안 AI 모델 개발을 넘어선 기술적 대응이 필요하다고 설명했다.

◇공공AI 소수자 배제 우려…“데이터·모델 점검 강화”

공공서비스에 AI를 도입하는 과정에서 장애인이나 이주민 등 사회적 소수자가 제대로 반영되지 않을 수 있다는 문제도 제기됐다.

이주희 의원은 서울대 연구진이 진행한 AI 관련 연구를 소개하며, 국내 인구 분포를 기반으로 생성한 가상 한국인 1만 명에 대한 AI 응답에서 장애인과 이주민 등 소수자 집단이 제대로 반영되지 않았다고 지적했다.

AI가 일반적이거나 통계적으로 빈도가 높은 응답을 생성하는 과정에서 복지 정책의 주요 대상인 취약계층이 배제될 수 있다는 우려다. 특히 정부가 복지와 돌봄 영역으로 공공AI 도입을 확대하고 있는 만큼 대책이 필요하다고 강조했다.

배 부총리는 “AI 편향성을 완전히 제거하기는 불가능하다”며 AI 서비스 기업들이 관련 데이터를 충분히 학습시키지 못하거나 소홀히 하는 부분이 있다고 설명했다. 그러면서 정부가 제공하는 복지·돌봄 AI 서비스는 행정안전부와 함께 데이터와 모델을 점검해 편향성을 최소화하겠다고 밝혔다.

송기헌 과방위원장도 AI가 일반적인 응답에 수렴하는 특성 때문에 소수자의 상황을 충분히 고려하지 못할 수 있다는 점을 지적했다.

이에 배 부총리는 AI가 확률적으로 높은 답을 생성하는 특성이 있다며 알고리즘 개선뿐 아니라 관련 데이터의 점검과 보완이 필요하다고 설명했다. 또 모델 학습 단계뿐 아니라 서비스 단계에서도 이를 보완할 수 있는 방안을 마련해 공공AI 개발과 운영 과정에 반영하겠다고 밝혔다.