(AI 생성 이미지)
실제 숏폼 서비스를 하는 다수 플랫폼에선 AI를 이용해 공장에서 찍어낸 듯한 양산형 콘텐츠, 타인의 영상을 AI로 미세하게 변형해 재게시하는 이른바 펌글 영상들이 알고리즘을 타고 수백만 회의 조회수를 기록하는 것을 어렵지 않게 볼 수 있다. 플랫폼 간의 실시간 데이터 공유가 제한적인 데이터 사일로(Data Silo) 현상을 악용해, 한 플랫폼에서 퇴출된 슬롭이 다른 플랫폼에서 새로운 옷을 입고 다시 유통되는 악순환이 반복되고 있다는 지적이다.
◇단속 외치며 ‘AI 피드’ 실험… 플랫폼의 이중잣대
플랫폼들이 내세운 규제 기조와 실제 행보 사이의 괴리는 메타(Meta)의 사례에서 가장 극명하게 드러난다. 마크 저커버그 CEO가 지난해 9월 공개한 바이브(Vibes) 기능은 AI 생성물을 플랫폼 외부의 이물질로 규정하기보다, 이용자들이 직접 즐기고 리믹스할 수 있는 새로운 콘텐츠 포맷으로 제도화하려는 시도였다. 하지만 이는 결과적으로 플랫폼 스스로 저질 양산형 콘텐츠의 판을 깔아줬다는 비판을 피하지 못하고 있다.
실제로 바이브 공개 이후 인스타그램과 페이스북 피드에는 기괴하게 뒤틀린 동물 영상이나 맥락 없는 AI 합성물들이 폭발적으로 증가했다. 메타는 이용자 지표가 개선됐다고 자평하지만, 이용자들 사이에서는 “독창적인 창작자들의 자리를 기계가 찍어낸 오물이 대신하고 있다”는 성토가 쏟아진다. 플랫폼이 트래픽 확보라는 실리를 위해 저품질 콘텐츠를 사실상 공식 포맷으로 승인해 주면서, 생태계 정화라는 명분은 뒷전으로 밀려났다는 지적이다.
◇강력 규제 비웃는 ‘슬롭 세탁’… 틱톡·유튜브의 한계
메타가 수용에 무게를 둔 것과 달리 구글과 유튜브, 틱톡 등은 AI 슬롭을 퇴출 대상인 스팸으로 규정하며 압박 수위를 높여왔다. 구글은 지난 2024년 대규모 콘텐츠 오남용(Scaled Content Abuse) 정책을 도입하며 저품질 콘텐츠 노출도를 40% 이상 감축하겠다고 호언장담한 바 있다. 유튜브 역시 AI 생성물에 라벨 부착을 의무화하고 고의로 숨길 경우 수익 창출 권한을 박탈하는 등 강력한 경제적 제재안을 시행 중이다.
하지만 이러한 규제 선언이 무색하게도 구글 검색 결과와 유튜브 쇼츠는 여전히 정체불명의 AI 슬롭들로 몸살을 앓고 있다. 특히 규제망을 우회하기 위해 프레임 속도를 미세하게 조절하거나 배경 음악을 변조해 원본처럼 보이게 만드는 슬롭 세탁이 정교해지면서 플랫폼의 필터링 시스템은 사실상 무력화된 상태라는 비판이 나오기도 한다.
(AI 생성 이미지)
◇제로 비용의 역습… 구조적 한계에 부딪힌 자정 노력
국내 플랫폼인 네이버와 카카오의 상황도 비슷하다. 네이버는 글로벌 표준인 콘텐츠 자격 증명(C2PA)에 가입하며 대응하고 있지만, 중국 등 해외 숏폼 영상을 재가공한 영상을 어렵지 않게 볼 수 있다. 결국 해외에서 유입되는 방대한 양의 슬롭 영상을 실시간으로 검증하기엔 기술적 인프라의 한계가 있는 것 아니냐는 비판이 나오는 배경이다.
이와 관련 네이버는 “AI를 활용해 저품질 콘텐츠 등을 생산한 경우 제재될 수 있도록 하고 있다”며 “AI 관련 표기 가이드를 준수하지 않거나, 단순 양산형 콘텐츠 위주로 업로드하는 경우에 대해서도 엄격하게 모니터링해 조치하고 있다”며 AI 슬롭 제재에 대한 의지를 분명히 했다.
뉴욕타임스(NYT)가 최근 유튜브 키즈 영상 중 상당수가 기괴한 AI 슬롭으로 확인됐다고 폭로한 것은 플랫폼 알고리즘의 맹점을 단적으로 보여주는 사례다. 결국 가장 큰 난제는 비용의 불균형이라는 것이 IT업계의 평가다. 기술 발전으로 AI 슬롭 생성 비용은 제로에 수렴하는 반면, 이를 탐지하고 차단하는 데 드는 비용은 기하급수적으로 늘어나고 있다는 것이다.
이 같은 상황에서 플랫폼 기업들이 실실적인 피드 품질 개선에 소극적이라는 비판은 계속되고 있고, 이는 숏폼 서비스에 대한 부정적 인식으로 이어지고 있다. IT업계 한 관계자는 “저질 콘텐츠가 이용자의 체류 시간을 늘려 광고 수익에 기여하는 구조가 깨지지 않는 한, 플랫폼이 자진해서 슬롭을 완벽히 걷어낼 동기는 부족할 수밖에 없다”고 분석했다.
