[이데일리 김유성 기자] 인공지능(AI) 챗봇이 이용자 동의 없이 개인 전화번호를 노출하는 사례가 알려지면서 개인정보 침해 우려가 커지고 있다. AI가 특정 업체나 서비스의 연락처를 묻는 질문에 엉뚱한 개인의 번호를 답변으로 제시한 것이다.

미국 뉴욕포스트와 영국 인디펜던트 등에 따르면 최근 한 이용자는 구글의 AI 서비스 ‘제미나이’가 자신의 전화번호를 여러 업체의 연락처처럼 안내했다고 주장했다.

이 이용자는 온라인 커뮤니티 레딧에 “변호사, 제품 디자이너, 열쇠 수리공을 찾는 사람들이 계속 전화를 걸어온다”며 “전화를 건 사람들은 모두 구글 AI에서 내 번호를 봤다고 말했다”고 했다. 그는 이를 “심각한 개인정보 침해이자 데이터 유출”이라고 주장했다.

외신들은 이 같은 현상을 ‘AI 독싱’(AI Doxxing)으로 표현했다. 독싱은 개인의 신상정보를 당사자 동의 없이 공개하는 행위를 뜻한다. 과거에는 특정인이 악의적으로 개인정보를 퍼뜨리는 경우가 많았다. 최근에는 AI 챗봇이 인터넷에 흩어진 정보를 학습하거나 검색 결과를 조합하는 과정에서 개인 연락처를 잘못 노출하는 사례가 문제로 떠오르고 있다.

개인정보 보호 삭제업체 클리어님(ClearNym) 측은 이번 문제가 단순한 기술 오류가 아니라고 지적했다. 오랜 기간 데이터 브로커들이 전화번호, 주소, 가족관계 등 개인정보를 수집·거래해왔고, 이런 정보가 생성형 AI 시스템과 결합하면서 예기치 않은 방식으로 다시 노출되고 있다는 의미다.

클리어님은 오래된 기록이나 공개 데이터베이스, 인터넷 게시물 등에 남아 있던 개인정보가 AI 답변 속에서 복사되거나 조작된 형태로 등장할 수 있다고 경고했다.

문제는 피해자가 이를 바로잡기 어렵다는 점이다. 검색엔진의 경우 ‘잊힐 권리’나 검색 결과 삭제 요청 같은 절차가 마련돼 있다. 그러나 AI 모델이 이미 학습했거나 답변 생성 과정에서 활용한 정보를 완전히 제거하는 일은 더 복잡하다. 피해자는 구글 측에 자신의 번호가 AI 답변에 나오지 않도록 삭제 요청을 했지만, 제대로 된 답변을 받지 못했다고 주장했다.

구글 측은 인디펜던트에 “검색 AI 기능에서 개인 콘텐츠가 노출되지 않도록 보호 장치를 마련하고 있으며, 삭제 요청을 위한 전용 도구도 제공하고 있다”고 밝혔다. 이어 “충분한 정보를 확인해 정책 위반이라고 판단되면 조치를 취한다”고 했다.