[이데일리 김현아 기자] 정부가 청소년의 사회관계망서비스(SNS) 과몰입과 인공지능(AI) 생성물 확산에 대응하기 위한 규제 강화에 나선다. 이재명 대통령은 16세 이하 청소년의 SNS 이용 제한 논의를 본격화하고, AI 생성물의 유통 단계까지 규제하는 법안 마련에 정부가 적극 나서야 한다고 주문했다.

이 대통령은 16일 열린 방송미디어통신위원회 업무보고에서 해외의 청소년 SNS 규제 사례를 언급하며 제도 마련 필요성을 강조했다.

◇“16세 이하 SNS 제한, 논의해 보자”

이 대통령은 청소년을 과도하게 플랫폼에 머물게 하는 알고리즘의 문제를 지적하며 “해외에서는 알고리즘을 사실상 조작에 가깝게 너무 과하게 과몰입하도록 알면서 만들어 놨다는 이유로 형사처벌도 되고 미국에서 민사상 배상 책임도 인정했던데요”라고 말했다.

이어 “지금 뭐 호주, 영국, 유럽 이런 쪽이 16세 이하는 SNS 접근을 제한하겠다는 법을 만든다고 하죠. 이미 시행하는 데도 있는 것 같고”라고 해외 입법 동향을 소개했다.

이날 회의에서는 댓글을 통한 ‘16세 이하 SNS 접근 제한’ 즉석 의견 조사도 진행됐다. 청소년 SNS 접근 제한 찬성 여론이 높다는 결과가 나오자, 이 대통령은 “(반상권 방미통위 대변인의) 청소년들이 학교 가는 시간이어서 글을 못 쓰는 시간이라는 건 일리가 있다. 나중에 주말에 한번 해봐야 되겠네요”라며 “이것도 언젠가 한번 논의해 보도록 하겠다. 일반적으로 볼 때는 16세 이하 또는 일정 연령 이하는 부작용이 매우 심각하다고 인식하는 거겠죠”라고 말했다.

◇“AI 창작물, 실제와 구분 안 돼… 유통 규제 서둘러야”

이 대통령은 AI가 생성한 영상과 이미지가 실제와 구분하기 어려울 정도로 발전한 점에 대해서도 우려를 나타냈다.

그는 “요즘은 인공지능 창작물인지 실제 상황인지가 구분이 안 될 정도로 실제 영상과 너무 유사하다. 성능이 엄청 개선됐다”며 “표시를 안 해주면 사람들이 일종의 증거로 받아들인다. ‘어? 이거 진짜네’라고 생각하게 된다”고 말했다.

이어 “예전에는 사진이 그런 역할을 했는데 지금은 영상이 너무 똑같아서 표시를 하지 않으면 정말 오해를 심하게 유발할 것 같다. 악용되면 정말 심각하다”고 지적했다.

그러면서 AI 생성물의 유통 단계까지 규제하는 법안에 대해 정부가 보다 적극적으로 나서야 한다고 주문했다. 현재 AI기본법은 AI 생성물에 대한 표시 의무를 두고 있지만, 이를 유통 단계에서 훼손하는 크리에이터 등에 대한 제재는 없고 국회에서 보완 입법이 추진되고 있다.

이 대통령은 “유통 단계에서도 규제하기 위한 법안이 준비되고 있다. ‘국회에서 하고 있더라’라고 말하면 안 될 것 같고, 입법을 지원하고 어떻게 할지를 방향을 명확하게 정한 다음 협력을 구해야 한다”고 말했다.

이어 “저희가 필요하다고 보고 입법 지원을 하고 있습니다. 어떻게 되는지 보고 있겠다, 이러면 안 될 것 같다”며 “AI 창작물이 가지는 위험성이 이미 현실화되고 있는 만큼 대비책이 있어야 한다”고 강조했다.

◇방미통위 “청소년 SNS 규제, 게임 셧다운제 전철 밟지 않겠다…사회적 공론 거쳐 신중 추진”

다만, 방송미디어방송통신위원회는 신중한 입장이다.

청소년 사회관계망서비스(SNS) 이용 제한과 관련해 과거 게임 셧다운제의 경험을 되풀이하지 않겠다며 사회적 공론화를 거친 신중한 단계별 접근 방침을 밝혔다.

김종철 방송미디어통신위원장은 청소년 SNS 과몰입 문제가 사회적 관심사이자 전 세계적인 현상이라고 진단하면서도 “우리나라는 이미 게임 셧다운제의 경험이 있는 만큼 이 문제를 섣부르게 접근하기보다는 사회적 공론 과정을 거쳐 맞춤형·단계별로 접근하는 것이 적절하다”고 말했다.

이어 “청소년은 보호 대상이면서 동시에 권리를 가진 정책 당사자”라며 “전문가뿐 아니라 청소년들이 직접 참여하는 정책 개발도 함께 추진하고 있다”고 설명했다.

현재 국회에는 청소년 SNS 이용 제한과 관련한 법안이 7건가량 발의된 상태다. 방통위는 이들 법안을 종합적으로 검토해 연령별 차등 규제 방안을 마련할 계획이다.

김 위원장은 “14세 미만은 SNS 가입을 제한하는 방식을 검토하고 있다”며 “이후 19세까지는 중독성 디자인과 추천 알고리즘 등 과몰입을 유도하는 장치에 대한 노출을 제한하는 규제를 단계적으로 모색하고 있다”고 밝혔다.

그는 “청소년 과몰입의 상당 부분이 중독성을 높이는 플랫폼 설계와 알고리즘에서 비롯된다는 점은 과학계에서도 실증적으로 확인되고 있다”며, 가입 자체를 일률적으로 막기보다는 연령에 맞는 보호 장치를 단계적으로 적용하는 방향에 무게를 두고 있음을 시사했다.

이에 따라 정부는 청소년 SNS 규제와 관련해 과거 셧다운제처럼 일괄적인 규제를 도입하기보다는 사회적 합의와 과학적 근거를 바탕으로 한 신중한 단계별 규제 모델을 마련하는 데 정책의 초점을 맞출 것으로 보인다.

◇“방송통신 산업 진흥보다 허위조작 정보 대응이 더 중요”

한편 이재명 대통령은 방송통신 정책에서 산업 진흥보다 허위조작 정보 대응이 더욱 중요하다고 강조했다.

그는 “방송통신을 진흥하는 것도 중요하지만 악용되지 않게 하는 게 훨씬 더 중요한 역할”이라며 “허위 가짜 정보를 악용해 사적 이익을 취하거나 정치적 공격 수단으로 삼고, 사회적 분열과 갈등을 촉발하는 부분에 대해서는 규제기관으로서 역할을 정말 잘해야 한다”고 말했다.

이어 “가짜 정보로 인한 사회 갈등과 사회적 비용이 너무 크다”며 “일정한 규범과 질서를 만들어내는 것이 방미통위가 할 일이다. 불법과 허위조작 정보 유통에 대해 아주 철저하게 대응하고 예방할 수 있도록 노력해 달라”고 당부했다.