미국 중간선거가 이틀 앞으로 다가온 가운데 인공지능(AI)을 이용한 선거 개입 시도가 잇따라 드러나고 있다.

러시아 연계 세력으로 의심되는 조직이 딥페이크 영상으로 후보를 공격하는가 하면 AI 챗봇의 답변에 영향을 미치려는 시도도 나타났다. AI가 생성한 부정확한 선거 정보를 다른 AI 챗봇이 다시 인용하는 사례까지 확인됐다.

AI로 만든 선거정보, 챗봇이 재인용…유권자 판단 영향 우려
1일 미국 워싱턴포스트(WP)에 따르면 챗GPT와 마이크로소프트(MS) 코파일럿 등 AI 챗봇이 AI로 제작된 선거 정보 사이트를 주요 정보원으로 활용하는 것으로 나타났다.

WP가 미국 전역의 선거 정보를 묻는 질문으로 챗봇을 시험한 결과 챗GPT는 답변의 22%, 코파일럿은 75%에서 AI 기반 선거 정보 사이트 '더 밸럿 브리프(The Ballot Brief)'를 인용했다.

더 밸럿 브리프는 AI 에이전트를 활용해 미국 전역의 후보자 정보를 수집하고 정리하는 사이트다.

그러나 이 사이트에서는 후보자의 의정활동을 잘못 소개하거나 동명이인인 두 후보를 하나로 합치는 등 부정확한 정보를 제공한 사례가 확인됐다.

코파일럿은 오하이오주 상원의원 선거에 출마한 존 허스티드 공화당 후보가 취임 전에 통과된 법안을 지지한 것으로 잘못 소개한 정보를 인용하기도 했다.

WP의 문제 제기 이후 챗GPT의 해당 사이트 인용 비율은 추가 시험에서 4%로 낮아졌다. MS도 공식 선거 정보 사이트를 우선하도록 개선했다고 밝혔다.

AI를 선거 정보 탐색에 활용하는 유권자가 늘면서 챗봇이 부정확한 정보를 재인용할 경우 유권자 판단에 영향을 미칠 수 있다는 우려가 나온다.


러시아 연계 의심 딥페이크 유포…AI 챗봇 답변도 선거전 대상
AI를 악용한 선거 개입 정황도 잇따라 포착되고 있다.

AP통신은 지난달 27일 러시아의 정보공작 조직과 연계된 것으로 의심되는 AI 조작 영상이 오하이오주와 텍사스주 민주당 상원의원 후보들을 겨냥해 유포됐다고 보도했다.

오하이오주에서는 셰러드 브라운 후보의 과거 인턴 사진과 이름을 이용해 허위 주장을 펼치는 뉴스 형식의 영상이 확산했다.

텍사스주에서는 제임스 탈라리코 후보의 과거 제자가 직접 폭로하는 것처럼 꾸민 영상이 유포됐다.

전문가들은 이 영상들이 2024년 미국 대선 당시 허위 정보를 유포했던 러시아 연계 조직 '스톰-1516'의 수법과 유사하다고 분석했다.

엑스(X)는 최초 게시물을 삭제하고 관련 계정을 정지했지만 영상 복제본은 온라인에서 계속 유통되고 있다.

AI 챗봇의 답변에 영향을 미치려는 시도도 나타났다.

로이터통신에 따르면 매사추세츠주 주지사 후보인 마이크 미노그(공화) 측에 AI가 해당 후보를 우호적으로 소개하도록 온라인 콘텐츠를 배치하는 전략이 제안됐다.

AI가 자주 인용하는 웹사이트에 후보의 정책을 설명하는 콘텐츠를 게시하고 답변 변화를 추적하는 '생성형 엔진 최적화(GEO)' 방식을 활용한다는 구상이었다.

미국 정치 컨설턴트 조 보닐라는 로이터에 "AI의 답변에 영향을 미치려는 선거운동은 이미 현실이 됐으며 2028년 선거에서는 보편화할 것"이라고 전망했다.

shushu@news1.kr