온라인 여론에 영향을 미치려는 외국 연계 의심 계정을 인공지능(AI)이 찾아내고, '왜 의심스러운지' 판단 근거까지 사람이 확인할 수 있는 기술이 개발됐다.

약 20년간 네이버 뉴스에 달린 댓글 1억 1265만여 건을 분석해 외국 연계 영향력 활동이 의심되는 계정 2만 3998개를 식별했다. 기존 AI가 방대한 온라인 콘텐츠에서 의심 대상을 찾아내는 데 그쳤다면 이번 기술은 어떤 표현과 행동을 근거로 판단했는지까지 제시하는 '설명 가능한 AI(XAI)'를 적용했다.

전문가가 AI의 판단 근거를 직접 확인한 뒤 최종 판단할 수 있어 선거나 국가적 위기 상황에서 온라인 여론 모니터링 등에 활용할 수 있다는 게 연구진의 설명이다.

17일 과학계에 따르면 KAIST 이원재·차미영·오혜연 교수 공동연구팀은 독일 막스플랑크 연구소 토르스텐 홀츠 교수와 온라인 뉴스 댓글에서 외국 연계 영향력 활동으로 의심되는 패턴을 자동 탐지하는 AI 기술을 개발했다.

이번 연구는 'Cross-National Information Attacks: A Two-Decade Analysis of Troll Behavior in Korea'라는 제목으로 지난 13일 국제 정보보안 학술대회 'USENIX Security Symposium 2026'에서 발표됐다.

20년 치 댓글 1억건 분석…외국 연계 의심 계정 2만3998개
연구진은 국가안보전략연구원이 앞서 식별한 외국 연계 계정 70개를 출발점으로 2006년부터 지난해까지 네이버 뉴스 댓글 1억 1265만여 건과 이용자 404만여 명을 분석했다.

AI는 댓글 작성자의 외국 연계 가능성과 댓글에 담긴 감정 및 공격 대상 등을 계층적으로 분석하고, 기존 의심 계정과의 관계와 반복적인 활동 등 행동 특성까지 종합했다.

그 결과 외국 연계 영향력 활동과 유사한 패턴을 보이는 계정 2만 3998개를 식별했다. 논문에서도 약 1억 1200만 건의 댓글과 400만 명의 이용자를 분석해 2만 3998개 계정에서 조직적 여론 조작과 일치하는 행동 패턴을 확인했다고 밝혔다.

의심 계정들은 외국을 직접 찬양하기보다 한국과 국내 정치인을 비난하는 메시지를 훨씬 많이 작성하는 특징을 보였다.

이용자 호응이 높았던 비난 댓글의 공격 대상 상위 10개 가운데 7개는 국내 주요 정치인이었다. 특정 정당이나 이념에 집중되지 않고 진보와 보수 양쪽 정치인이 포함됐다. 연구진은 특정 정치세력을 일방적으로 지원하기보다 국내 정치에 대한 불신과 진영 간 갈등을 확대하는 전략과 부합하는 패턴으로 분석했다.

선거 시기에는 의심 계정의 활동도 늘었다. 대선·총선·지방선거 기간 새롭게 활동을 시작한 의심 계정은 주당 평균 34.19개로 비선거 기간 22.61개보다 약 51% 많았다.

다만 AI가 식별한 계정이 실제 특정 외국 정부나 기관이 운영하는 계정이라는 의미는 아니다. 기존에 확인된 외국 연계 계정과 유사한 언어·행동 패턴을 찾아낸 것으로, 실제 운영 주체를 특정하는 '귀속 판단'과는 구분해야 한다. 논문 역시 이들을 국가 연계 계정으로 확정하지 않고 '의심되는 트롤링' 또는 '조직적 조작과 일치하는 행동'으로 표현하고 있다.


'수상하다'만 알려주던 AI…의심 표현까지 직접 보여준다
이번 기술의 핵심은 AI가 의심 계정을 골라내는 데서 끝나지 않고 판단 근거까지 사람이 확인할 수 있도록 했다는 점이다.

AI는 작성 지역과 이용자명, 비원어민 표현 등을 토대로 외국 연계 가능성을 살펴보고 댓글에 담긴 분노·혐오·찬양 등 감정과 그 대상도 분석한다. 기존 의심 계정과의 연결 관계, 반복 댓글, 활동 빈도와 계정 활동 기간 등 행동 특성도 함께 고려한다.

특히 각 분석 단계에서 결과값만 제시하는 것이 아니라 실제 판단의 근거가 된 댓글 속 표현을 함께 보여준다. 연구 논문은 이를 사람이 이해할 수 있는 짧은 텍스트 단위의 판단 근거로 추출하도록 설계했다고 설명했다.

AI가 수많은 댓글 가운데 우선 검토할 계정과 메시지를 추려내고 전문가가 해당 표현과 행동을 직접 확인해 최종 판단하는 방식이다.

연구진은 선거나 국가적 위기 상황에서 포털이나 온라인 여론 모니터링 기관이 이 기술을 '설명 가능한 콘텐츠 관리 도구'로 활용할 수 있을 것으로 봤다. 연구진은 설명 가능한 근거를 제공함으로써 플랫폼이 방어가 필요한 메시지나 계정을 우선 선별하는 데 활용할 수 있다고 밝혔다.

다만 AI의 판단이 곧바로 댓글 삭제나 계정 차단으로 이어져서는 안 된다고 연구진은 강조했다. 실제 플랫폼에 적용할 경우 사람이 AI가 제시한 판단 근거를 다시 검토하고 이용자가 이의를 제기할 수 있는 절차도 함께 마련해야 한다는 것이다.

AI가 방대한 콘텐츠에서 사람이 확인해야 할 대상을 좁히되 최종 판단은 사람에게 남겨 탐지 기술이 자동적인 콘텐츠 차단이나 검열로 이어지는 것을 막아야 한다는 취지다.

이원재 KAIST 교수는 "의심 계정들은 외국을 직접 찬양하기보다 한국과 국내 정치인을 비난하며 갈등을 키우는 패턴을 보였다"며 "선거 등 사회적 갈등이 높아지는 시기에 우선 검토해야 할 메시지를 가려내는 기준이 될 것"이라고 말했다.

shushu@news1.kr