틱톡이 다음달 열리는 제9회 전국동시지방선거를 맞아 선거 관련 허위정보와 인공지능(AI) 생성 콘텐츠의 정보 왜곡 대응을 강화한다. 특히 정치·사회적 맥락 파악이 중요한 선거 콘텐츠의 면밀한 관리를 위해 중앙선거관리위원회 및 국내 전문가와 손잡고 공식 정보 제공과 유해 콘텐츠 차단에 주력한다.

틱톡은 20일 오전 '선거 신뢰 및 공정성을 위한 플랫폼 안전' 온라인 브리핑을 열고 다가오는 6·3 지방선거에 대응하기 위한 틱톡의 선거 콘텐츠 운영 정책을 밝혔다.

이날 브리핑에는 제드 호너 틱톡 오세아니아·동북아 고위험 정책 총괄과 김희수 틱톡 오세아니아·동북아 신뢰와 안전 정책 매니저가 참석했다.


가짜뉴스·AI 생성물 집중 관리…정치인 계정 돈벌이도 규제
틱톡은△유해 콘텐츠 차단 △정부·정치인·정당 계정 정책 운영 △전문 기관과의 협력 △커뮤니티 역량 강화 등 4가지 축으로 선거 콘텐츠 정책을 운영한다.

우선 투표일이나 장소, 자격, 방식 등 선거 절차와 관련한 허위·조작정보가 이용자들에게 무방비로 노출되지 않도록 탐지한다. 폭력·혐오 조장 콘텐츠와 가짜 계정, 조직적 조작 행위, 출처를 속이는 행위 등 기만적 행위도 규제 대상이다.

이 같은 허위 정보는 틱톡 내 콘텐츠 가이드라인을 운영하는 '신뢰와안전팀' 소속 숙련된 인력과 인공지능(AI) 기반 자동화 탐지 기술로 걸러낸다. 특히 한국에서는 글로벌 팩트체크 기관 리드 스토리즈(Lead Stories)와의 협력을 통해 팩트체킹을 고도화했다. 팩트체킹과 탐지를 통해 틱톡 가이드라인을 위반했다고 판단된 콘텐츠는 미노출 조치한다.

AI 생성물 조치도 강화했다. 인물의 발언을 허위로 보이게끔 하거나, 일어나지 않은 사건을 실제처럼 보이도록 왜곡해 이용자 판단에 영향을 주는 AI 콘텐츠는 삭제 조치한다. 즉시 삭제 대상이 아니더라도 확산에 주의하거나 확인이 필요하다고 판단되면, 추천 피드 노출 제한과 콘텐츠 공유 시 경고 표시를 하는 등 조치를 적용한다.

틱톡은 기본적으로 크리에이터에게 AI 콘텐츠에는 AI로 생성했다는 사실을 입증하는 라벨을 앱 내에서 직접 부착하도록 도구를 제공한다. 이와 함께 틱톡이 직접 AI 콘텐츠를 탐지해 라벨링하기도 한다. 다만 AI 라벨 부착 여부를 떠나 가이드라인을 위반한 유해 콘텐츠는 차단 조치한다.

정부·정치인·정당 계정에 적용되는 정책은 별도로 분류하고 관리한다. 이들 계정에는 광고를 게재할 수 없으며, 프로모션 기능을 활용한 우회적인 정치 광고도 금지된다. 선거 캠페인 같은 모금 활동이나 기부 유도 활동도 일체 금지된다. 적발 시 해당 콘텐츠는 삭제 조치된다.

틱톡에서 운영하는 크리에이터 수익화나 인센티브 프로그램에도 참여할 수 없으며, 승인된 경우에만 게시물에 음악을 포함할 수 있도록 하는 등 일부 틱톡 기능 사용에 별도 제한이 있다.


중앙선관위 손잡고 '정확한 정보' 알린다
한국 이용자를 위한 공신력 있는 선거 정보 제공 서비스도 마련했다.

틱톡은 중선관위 공식 틱톡 계정을 통해 정확한 선거 정보를 전달한다. 선거 일정, 투표 절차, 선거 제도 등 자세한 정보를 확인할 수 있으며, 복잡한 정보는 숏폼(짧은 동영상) 형태로 알기 쉽게 설명해 준다.

틱톡 앱 내에서 운영하는 선거 정보 페이지에서는 중선관위 등 공신력 있는 선거 관리 기관 사이트로 이용자를 연결해 준다. 틱톡에서 선거 관련 키워드를 검색할 경우에도 해당 사이트로 안내하는 배너를 제공한다.

선거 기간에는 중선관위 사이버선거범죄 대응팀과 핫라인을 운영해 규정 위반 콘텐츠를 바로 보고 받고 선제 차단한다. 중선관위 대응팀이 규정 위반으로 의심되는 콘텐츠를 신고하면 해당 신고는 틱톡 신뢰와안전팀이 접수해 우선적으로 검토한다.

다만 정부 요청이라고 해서 자동 삭제하는 것은 아니다. 틱톡의 가이드라인을 기반으로 법적 기준을 함께 확인해 필요 시 조치한다.

틱톡은 이번 선거 기간 구체적인 한국어 콘텐츠 전담 인력 규모나 규정 위반 콘텐츠의 평균 조치 시간은 구체적으로 밝히지 않았다.

틱톡 측은 "플랫폼으로서 다양한 대화 환경을 제공함과 동시에, 커뮤니티를 위험한 콘텐츠로부터 보호해야 한다고 생각한다"며 "선거 전후 태스크포스(TF)를 통해 한국을 비롯한 글로벌 시장에서 안전한 콘텐츠 운영 체계를 가동하겠다"고 말했다.

bean@news1.kr