최근 생성형 인공지능(AI)으로 만든 거짓 정보와 범죄 악용 사례가 늘어나는 가운데 방송미디어통신위원회가 이용자가 직접 정보의 진위를 확인하는 습관을 기르기 위한 캠페인을 펼친다.

방송미디어통신위원회는 10월부터 11월까지 두 달간 인스타그램·유튜브 등 공식 사회관계망서비스(SNS) 채널을 통해 'AI 시대, 확인템 장착이 국룰!' 캠페인을 진행한다고 1일 밝혔다.

캠페인은 생성형 AI를 이용한 거짓 정보 유통과 범죄 악용에 대한 경각심을 높이고 이용자가 정보를 스스로 확인하고 의심하는 습관을 기르도록 하기 위해 마련됐다.

SNS와 생성형 AI 이용률이 높은 MZ세대와 청소년을 주요 대상으로 한다. 방미통위와 정보통신정책연구원이 발표한 '2025년 지능정보사회 이용자 패널조사'에 따르면 국내 생성형 AI 이용률은 2025년 38.9%다.

10월에는 실제 정보와 AI 등을 활용해 조작한 정보를 나란히 보여주고 이용자가 진위를 직접 가려보는 '진짜 대 가짜' 판별 퀴즈를 카드뉴스와 숏폼 형태로 순차 공개한다.

11월에는 이용자들이 자신만의 정보 확인 방법을 숏폼이나 카드뉴스로 소개하는 '확인템 장착 챌린지'를 진행한다.

별도 인증 사이트에서 사진을 올리면 캠페인 상징 배지가 자동으로 합성된다. 완성된 이미지를 자신의 SNS에 공유해 인증한 이용자 가운데 선착순 1000명에게 쿠폰을 제공한다.

생성형 AI로 만든 정보를 접했을 때 스스로 확인할 수 있는 '거짓 정보 판별 체크리스트'와 딥페이크 관련 유의 사항을 담은 카드뉴스도 제작·배포한다.

생성형 AI 이용 과정에서 발생하는 위험 사례를 신고·공유할 수 있는 '생성형 AI 이용자 참여 플랫폼' 이용 방법도 함께 안내한다.

반상권 방미통위 대변인은 "생성형 AI 서비스가 고도화되며 국민 생활 깊숙이 확산되고 있는 만큼 스스로 정보를 확인하고 의심하는 습관이 중요하다"며 "국민이 안심하고 신뢰할 수 있는 AI 이용 환경을 만드는 계기가 되길 바란다"고 말했다.

한편 4월 국제학술지 네이처에 게재된 연구에서는 최신 대규모언어모델(LLM)에서도 사실과 다른 내용을 자신 있게 생성하는 '환각' 문제가 여전히 지속되고 있다고 봤다. 연구진은 모델의 정확도만을 평가하는 방식이 오히려 모르는 질문에도 답을 추측하도록 유도할 수 있다고 분석했다.

minju@news1.kr