"영상은 앞으로도 더욱더 많이 생성될 겁니다. 막을 수 있는 방법은 사실상 없습니다."

최병호 고려대 AI 연구소 교수는 최근 인공지능(AI)으로 만든 가짜 영상이 퍼지는 것과 관련해 "사람이 막을 수 있는 방법이 없다"며 이같이 말했다.

과거 장난성 유언비어 수준이었던 가짜뉴스는 이제 AI 기술과 결합해 정교한 영상과 음성 형태로 진화했다. 이에 더해 사회관계망서비스의 확산력을 등에 업고 전국, 전 세계로 퍼져나가고 있다.

전문가들은 이같은 상황에서 가짜 뉴스를 단순히 처벌하는 것만으로는 대응에 한계가 있다고 입을 모았다. 대신 AI 기술을 기반으로 한 탐지 기술, 플랫폼 차원의 차단 시스템, 시민들의 AI 리터러시(문해력) 강화가 함께 이뤄져야 한다고 강조했다.

"누구나 만든다"…AI가 만든 허위 정보의 폭주
전문가들은 최근 가짜뉴스와 딥페이크 영상이 빠르게 확산하는 가장 큰 원인으로 AI 기술의 대중화를 꼽았다.

최 교수는 "생산 비용이 0으로 점차 수렴하고 있는 경향을 보이기 때문에 사실상 누구나 허위 영상을 쉽게 만들 수 있는 상황이 됐다"며 "앞으로는 사람이 아니라 AI가 초당 수많은 허위 영상을 생산하게 될 것"이라고 말했다.

이어 "딥페이크 탐지 기술이 발전하고 있지만 이를 우회하는 기술도 동시에 고도화되는 '창과 방패' 구도가 이어지고 있다"며 "전문가조차 판별이 쉽지 않고 일반인이 육안으로 구분하는 것은 사실상 불가능에 가깝다"고 설명했다.

그러면서 "이제는 사람이 육안으로 진위를 판단하기 어려운 수준"이라며 "결국 AI가 만들고 AI가 탐지하는 방식으로 갈 수밖에 없다"고 진단했다.

가짜뉴스 생산이 하나의 수익 모델로 자리 잡고 있다는 분석도 나왔다.

영리적 이익이 존재하는 다크웹 플랫폼 시장이 커져 있고, 이제는 범죄 집단이 AI 해커와 다크웹, 심리학자 등을 동원해 구조적이고 조직적으로 움직이는 구조가 됐다는 것이다. 이미 거대한 수익을 창출하고 있기 때문에 멈출 가능성은 높지 않다는 것이 전문가들의 의견이다.

홍성철 경기대 미디어영상학과 교수는 "가짜뉴스로 조회수를 늘려서 이득을 챙기려고 하거나, 자신의 이름을 알리고 싶은 사람들이 있다"며 "예상치 못한 사회적 혼란을 야기하고, 공권력을 희롱하는 듯한 현상이 일어나 바람직하지 않다"고 말했다.

최 교수는 "현실적으로는 AI를 활용한 탐지 시스템과 플랫폼 차원의 차단, 이후 인간 검수를 병행하는 방식이 현재로선 가장 실효적인 대응"이라면서도 "허위 정보 유통이 이미 수익 구조를 갖춘 조직적 형태로 확대된 만큼 문제는 앞으로 더 심화할 가능성이 크다"고 덧붙였다.


SNS·유튜브 통한 확산…"플랫폼 차원 대응 강화해야" 목소리도
유튜브와 SNS 등 플랫폼이 허위 정보 확산의 핵심 통로가 되고 있는 가운데, 가짜뉴스 생산자들은 현재 가장 뜨거운 이슈를 선택해 가짜 뉴스를 만들기 때문에 퍼지는 속도도 빠를 수밖에 없다.

홍 교수는 특히 정보 공백이 클수록 허위 정보가 빠르게 침투한다고 분석했다. 그는 "사람들이 궁금해하는 사안에 대해 정확한 정보가 충분히 제공되지 않을 경우 이를 틈 타 허위 정보가 빠르게 확산되는 경향도 있다"고 설명했다.

플랫폼이 가짜뉴스의 기폭제가 되는 만큼, 플랫폼 차원의 대응이 필요하다는 의견도 냈다.

홍 교수는 "플랫폼 사업자들이 가짜뉴스를 걸러내기 위해 더 많은 인력을 채용하고 시스템을 개발하는 노력을 기울여야 한다"며 "또한, 가짜뉴스를 통해 부당한 이익이 생겼다면 해당 플랫폼을 운영하는 사람들에게 이익을 줘서는 안 된다"고 했다.

다만 정부나 경찰 차원의 처벌 강화에 대해서는 '처벌이 능사는 아니다'라며 조심스러운 의견도 있다.

홍 교수는 "사회적 혼란을 일으키거나 자기 집단을 위하는 등 가짜 뉴스를 퍼뜨리는 의도가 명확한 사람들에 대해서는 처벌할 수 있지만, 재미로 한 부분에 대해서 너무 지나친 처벌을 하는 것은 문제가 있다"고 했다.

현행법만으로 한계…기술 대응·명확한 기준 필요
허위 정보 유포 관련한 법률 상담도 늘고 있다.

최근 SNS와 AI 기술을 활용한 허위 정보 유포에 대한 법률 상담이 체감상 크게 늘고, 명예훼손이나 정보통신망법 위반 등으로 형사처벌이 이뤄지는 사례도 증가하는 추세다.

다만 해외플랫폼의 경우 공조가 쉽지 않고, 성적 내용이 포함된 딥페이크와 달리 일반 허위 영상이나 가짜뉴스의 경우 처벌 수위나 민사상 위자료가 크지 않은 경우가 많아 제재가 충분하다고 보기는 어려운 상황이다.

법조계에서는 현 상황에서 법적인 처벌만으로는 한계가 있다며 기술적 대응과 명확한 기준이 필요하다고 강조했다.

송정빈 법무법인 건우 변호사는 "기술이 발달하면서 악용하는 사람이 많아지고 피해도 커지고 있다. 기술 발달에 따른 부작용으로 봐야 한다"며 "법 제도를 만드는 것도 중요하지만 불법적인 영상물들을 바로바로 차단할 수 있는 시스템이 뒷받침돼야 효용이 있을 것 같다"고 말했다.

이어 "어떤 영상물이 표현의 자유를 넘어 다른 사람에게 피해는 주는 것인지, 플랫폼마다 기준을 명확하게 세워주는 것도 괜찮지 않을까 생각한다"고 밝혔다.

인터넷을 통해 유포되는 정보에 대해 의심하고 검증하는 문화도 필요하다.

최 교수는 "지금은 '제로 트러스트(Zero Trust)'로, 모든 걸 의심하는 형태로 갈 수밖에 없다"며 "AI 리터러시를 통해 이미지든 텍스트든 검증을 거쳤을 때 믿는다고 하는 태도가 굉장히 중요하다"고 강조했다.

sh@news1.kr