인공지능(AI)으로 만든 콘텐츠에 워터마크 표시를 의무화하고 이를 훼손하거나 위·변조할 경우 제재하는 방안을 놓고 국회가 입법 논의에 들어갔다.

15일 국회 과학기술정보방송통신위원회는 정보통신방송미디어법안심사소위원회를 열고 관련 내용을 담은 AI기본법과 정보통신망법 개정안을 심사했다.

다만 소위는 이날 쟁점이 적은 법안을 우선 처리하고 AI 생성물 표시 관련 법안은 추가 검토가 필요하다는 판단아래 계속심사하기로 했다.

AI 생성물에 어떤 방식으로 표시할지부터 이를 훼손·변조했을 때의 제재, 온라인 유통 과정에서 플랫폼이 져야 할 책임까지 여러 법안이 각각 다른 내용을 담고 있어 후속 심사에서 논의를 이어갈 예정이다.

소위에 상정된 AI기본법 개정안은 AI 생성물이라는 사실을 결과물 자체에서 확인할 수 있도록 코드나 문자·부호 등을 삽입한 가시적 또는 비가시적 워터마크를 표시하도록 하는 내용을 담았다. 해당 표시를 훼손하거나 위작·변작하는 행위도 금지한다.

현행 AI기본법도 생성형 AI나 AI시스템으로 만든 결과물에 AI 생성 사실을 고지·표시하도록 하고 있지만 표시 방식을 구체적으로 한정하지 않고 있다. 개정안은 워터마크의 형태와 훼손·변조 금지 등을 법률에 보다 구체적으로 담으려는 취지다.

김대식 국민의힘 의원안은 이를 위반할 경우 2년 이하의 징역 또는 2000만 원 이하의 벌금에 처하도록 했다. 이상휘 국민의힘 의원안은 AI 생성물 표시를 훼손·위조·변조하면 3000만 원 이하의 과태료를 부과하도록 하는 내용을 담았다.

법안별로 워터마크 표시 방식과 훼손·변조 행위에 대한 제재 수준 등에 차이가 있는 만큼 구체적인 기준은 후속 심사 과정에서 조정될 것으로 보인다.


AI 생성물이 온라인에서 유통되는 과정에서 워터마크가 훼손되거나 사라지는 것을 막기 위한 정보통신망법 개정안도 이날 함께 심사됐지만 역시 계속심사하기로 했다.

소위에서는 플랫폼에 워터마크 표시 유지와 훼손 방지를 위한 기술적·관리적 조치 의무까지 부과할 경우 기업이 져야 할 부담이 과도해질 수 있다는 점을 두고 이견이 제기된 것으로 전해졌다.

조인철 더불어민주당 의원안은 AI 생성물을 제작·편집해 정보통신망에 유통하는 자에게 생성 사실 표시 의무를 부과하고 해당 표시를 훼손·위조·변조하는 행위를 금지하는 내용을 담았다. 플랫폼에는 표시 훼손을 막기 위한 기술적·관리적 조치 의무도 부과한다.

박충권 국민의힘 의원안에는 일정 규모 이상의 정보통신서비스 제공자에게 AI 생성 사실 표시를 지원하고 표시의 훼손·위작·변작을 방지하기 위한 기술적·관리적 조치를 취하도록 하는 내용이 담겼다.

이에 따라 후속 심사에서는 AI 생성물 제작자뿐 아니라 이를 유통하는 플랫폼까지 관리 책임을 지도록 할지, 책임을 부과한다면 어느 범위까지 둘지가 주요 논의 대상이 될 것으로 보인다.

이번 AI 워터마크를 둘러싼 입법 논의는 생성형 AI가 빠르게 확산하면서 실제 콘텐츠와 AI 생성물을 구별하기 어려워지고 있다는 문제의식에서 출발했다. 딥페이크를 이용한 성 착취물이나 금융사기, 허위정보 등 AI 생성물을 악용한 사례에 대한 우려도 이어지고 있다.

정부는 지난 6월 딥페이크 성 착취물과 AI를 이용한 금융사기, 허위·부당광고 등에 대응하기 위한 범부처 협의체를 출범시켰다.

이날 소위에서 관련 법안이 의결되지는 않았지만 AI 생성물의 표시 방식과 훼손·변조 제재, 플랫폼의 관리 책임을 어디까지 법제화할지를 둘러싼 국회 논의는 후속 심사에서 계속될 전망이다.

minju@news1.kr