[이데일리 장영락 기자] 영국 정부가 일론 머스크의 ‘X’에서 이뤄지는 성적인 딥페이크 이미지 생성에 대한 즉각적인 조치를 요구했다. AFP통신에 따르면 리즈 켄달 영국 기술부 장관은 6일(현지시간) 성명을 내 “최근 온라인에서 목격된 일들은 문명사회에서 용납될 수 없는 끔찍한 일”이라며 “X는 이 문제를 시급하게 처리해야 한다”고 밝혔다.

X에 통합된 인공지능(AI) 챗봇 그록이 여성과 아동의 이미지를 사용해 동의 없이 성적인 딥페이크 콘텐츠를 생성·유포하는 도구로 악용되자 정부가 자체 규제를 요구한 것이다.

영국은 특히 지난해부터 온라인안전법을 시행해 온라인 플랫폼이 불법적이거나 유해한 콘텐츠로부터 사용자를 보호할 ‘보호 의무’를 갖도록 규정하고 있다.

이 법은 동의 없이 제작된 성적 이미지나 AI 딥페이크 유포를 우선순위 범죄로 다루며 위반 시 영국 규제기관인 오프콤이 해당 기업의 전 세계 연간 매출의 10% 또는 1800만 파운드(약 352억 원) 중 더 큰 금액을 과징금으로 부과할 수 있도록 했다.

지난달 말 X가 그록에 이미지 편집 기능을 도입한 후 ai로 생성된 아동 성착취물 등이 범람하고 있다. X가 다른 소셜미디어 플랫폼보다 규제가 덜 엄격한 상황에서 ai 챗봇으로 간단하게 이미지를 생성할 수 있게되자 성적 이미지가 넘쳐나는 상황이 된 것이다.

유럽연합(EU) 집행위원회도 이 문제를 “매우 심각하게 검토하고 있다”고 밝혔고, 인도 정부는 X에 72시간 내 시정 조치 보고를 명령했다. 프랑스 등도 자체 조사에 착수했다.

그러나 머스크는 “불법 콘텐츠 생성을 지시한 사용자는 직접 업로드한 것과 동일한 처벌을 받을 것”이라며 여전히 컨텐츠에 대한 책임은 플랫폼이 아닌 사용자에게 있다는 입장을 고수하는 발언을 해 논란을 부추기고 있다.