[이데일리 방성훈 기자] 틱톡은 2021년 유해 콘텐츠가 쏟아지는 것을 막기 위해 알고리즘을 손봤다. 이른바 필터버블 방지 전략이다. 그런데 회사는 이를 미국 이용자 전체에 적용하지 않았다. 안전장치를 켜면 앱의 중독성이 떨어지는지 확인하기 위해 이용자 10%, 당시 기준 약 1500만명에겐 계속 옛 버전을 쓰도록 했다. 옛 버전에 남겨진 한 16세 소년은 자살과 슬픔, 절망, 외로움을 다룬 영상 수천건에 노출됐고, 결국 스스로 생을 마감했다.

틱톡이 이용자 참여도를 재보겠다며 안전장치를 일부러 켜지 않은 채 실험을 벌이다 이용자를 자살로 몰아넣었다는 비판이 일고 있다.

◇안전장치, 美16세 소년에겐 꺼져 있었다

4일(현지시간) 블룸버그통신에 따르면 2023년 3월 작성된 14쪽짜리 내부 기밀 문서를 통해 틱톡이 2021년 안전장치를 미국 이용자 90%에게만 적용한 사실이 뒤늦게 확인됐다. 문서는 숨진 소년의 계정에 대해 “틱톡의 필터버블 방지 전략은 이 이용자에게 의도적으로 작동하지 않았다”고 적었다. 필터버블은 알고리즘이 이용자가 좋아할 만한 콘텐츠만 반복해 쏟아내는 온라인 메아리방이다.

이 문서는 틱톡의 안전팀과 알고리즘팀이 소년의 시청 이력을 재구성한 보고서다. 블룸버그가 취재에 나서자 회사가 이례적으로 개별 이용자의 이력을 들여다본 결과물이다. 문서는 소년의 계정이 2022년 1월 25일 무작위로 실험 대조군에 편입됐고, 그 뒤 “자살·자해 및 우울 관련 콘텐츠가 반복적으로 추천됐다”고 밝혔다.

정신건강 문제 이력이 없던 축구 유망주였던 소년은 스포츠와 코미디를 주로 검색했지만 외로움과 절망을 다룬 노래도 찾아봤다. 우울증을 겪은 뮤지션들의 곡이었고, 이것이 알고리즘을 자극했을 가능성이 크다고 문서는 분석했다. 그는 2022년 2월 스스로 목숨을 끊었다.

틱톡이 사망 전 2주간 소년에게 제공된 영상 7563건을 분석한 결과 73%가 자살 생존자 증언이나 정신건강 문제, 이별의 슬픔 같은 주제를 담고 있었다. 약 10%는 자살·자해를 조장하거나 정상화한다는 이유로 틱톡 자체 규정을 위반한 영상이었다.

◇이용자 이탈 걱정에 일부러 껐다

문서는 왜 안전장치를 일부에게만 켰는지도 설명한다. “이용자 영향에 관한 결정은 안전과, 일간활성이용자(DAU) 및 핵심 지표에 미치는 영향을 측정할 수 있는 능력 사이의 미묘한 균형이었다”는 것이다. DAU는 월가가 소셜미디어(SNS) 기업을 평가하는 핵심 지표다.

보고서는 재발을 막기 위해 대조군을 1% 미만으로 줄이고 실험 기간을 7일로 단축하라고 권고하면서도, 10분의 1로 줄여도 “최소 180만명의 미국 이용자가 배제된다”며 이들이 필터버블에 갇힐 수 있다고 경고했다.

이 분석이 이뤄지고 2주 뒤 저우서우쯔 틱톡 최고경영자(CEO)는 미 하원 청문회에 나와 “안전과 건강, 특히 10대의 안전은 틱톡의 핵심 우선순위”라고 말했다. 청문회 뒤 의원들이 “이용자가 스스로 목숨을 끊은 사례를 몇 건이나 아느냐”고 서면으로 묻자 회사는 “플랫폼 이용이 이용자를 자살에 이르게 했다고 보지 않는다”고 답했다. “알고리즘 A/B 테스트가 피해를 초래한 사례를 열거하라”는 질문에도 틱톡은 두 달 전 스스로 조사했던 이 실험을 답변에 담지 않았다.

틱톡 대변인은 블룸버그에 “이용자, 특히 10대의 안전과 건강을 지키는 데 깊이 힘쓰고 있다”며 “비극적인 상실을 겪은 모든 가족에게 마음이 아프다”고 밝혔다. 실험은 안전 조치가 의도대로 작동하는지 보기 위한 통상적인 것이었고 이후 방식을 개선했다고도 했으나, 구체적인 설명은 하지 않았다.

◇‘설계상 위험’ 불씨…의도성 드러나 소송 4000건

‘의도적으로’라는 표현은 미국에서 진행 중인 SNS 중독 소송을 배경에 놓고 보면 무게가 다르다. 원고 측 주장의 핵심이 이들 플랫폼이 ‘설계상 위험하다’는 것이기 때문이다. 최근 4년간 SNS 기업들이 아동 정신건강을 해쳤다는 소송이 4000건 넘게 제기됐다.

지난 3월 캘리포니아 배심원단은 구글 유튜브와 메타플랫폼의 인스타그램이 중독성 기능으로 아동을 의도적으로 겨냥했다며 과실을 인정하고 600만달러(약 85억 8600만원) 배상을 평결했다. 이 문서도 재판을 앞두고 진행된 2년간의 증거개시 과정에서 발굴됐다. 재판 직전 합의했던 틱톡은 지난 3일 세 건에 대해 추가로 합의하며 올해 재판이 잡혀 있던 관련 소송 다섯 건을 모두 합의로 끝냈다.

소년의 부모가 낸 부당사망 소송은 통신품위법 230조에 따라 틱톡의 책임이 면제된다는 이유로 지난해 기각됐고 항소가 진행 중이다. 문서는 현재 법원 명령으로 봉인돼 있다. 아칸소주 법무장관실이 지난 6월 소년의 아버지에게 이를 보여주겠다며 증언 녹취를 신청했지만, 틱톡이 “민감한 내부 기밀 논의”라며 반대해 판사가 받아들였다.

※ 우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담전화 ☎109 또는 자살예방 SNS 상담 ‘마들랜(마음을 들어주는 랜선친구)’에서 24시간 전문가의 상담을 받을 수 있습니다.