디지털 성범죄물과 사기·도박, 혐오·사이버폭력 같은 기존 온라인 위험에 더해 AI가 만든 불법·유해 콘텐츠와 추천 알고리즘에 따른 피해까지 등장하면서 문제가 발생한 뒤 삭제·차단하는 방식만으로는 한계가 있다는 지적이다.
이주희 더불어민주당 의원은 대한변호사협회와 함께 오는 16일 국회의원회관에서 ‘안전한 디지털공간, 권리와 책임의 새 기준 온라인안전법 제정 토론회’를 열고 플랫폼의 책임과 이용자 권리를 둘러싼 입법 쟁점을 논의한다.
AI 확산으로 플랫폼의 책임 범위를 다시 정해야 한다는 논의도 커지고 있다.
방송미디어통신위원회는 최근 AI 생성물의 표시 의무를 생성 단계에서 포털·플랫폼의 유통 단계까지 확대하고, 추천 알고리즘은 일률적으로 공개하기보다 이용자가 추천 여부와 방식을 선택할 수 있도록 하는 방안을 추진하고 있다.
불법·유해 정보 역시 사후 삭제에만 의존하지 않고 AI가 콘텐츠를 생성·제공하는 단계에서부터 대응한다는 방향이다. 방미통위는 정보통신망을 통해 제공되는 AI 서비스를 대상으로 이용자 접근권과 이용 거부권, 설명 요구권 등을 담은 ‘AI 이용자보호법’ 마련도 추진하고 있다.
두 법의 차이는 규율의 출발점에 있다. AI 이용자보호법이 AI 서비스를 이용하는 과정에서 발생하는 위험과 이용자의 권리를 보호하는 데 초점을 둔다면, 온라인안전법은 AI를 포함해 온라인에서 발생하는 각종 위험을 플랫폼이 어떻게 사전에 관리하고 피해를 줄일 것인지에 무게를 둔다.
예를 들어 AI가 불법·유해 콘텐츠를 생성하는 단계에서는 AI 사업자의 책임이 중요하고, 해당 콘텐츠가 플랫폼을 통해 추천·유통되는 단계에서는 플랫폼의 위험관리와 피해구제 책임이 중요해지는 식이다.
이주희 의원이 추진하는 온라인안전법은 플랫폼에 위험을 평가하고 이를 줄이도록 책임을 부과하는 동시에 이용자의 권리를 제도적으로 보장하는 데 초점을 맞춘다.
특히 플랫폼 규모와 기능에 따라 책임을 차등화하고 신고·조치와 이의제기 절차, 알고리즘·광고 투명성, 아동·청소년 보호, 분쟁조정과 감독체계 등을 마련하는 방안이 논의되고 있다.
이 의원은 지난해 12월 ‘한국형 디지털서비스법 입법 방향’ 토론회를 시작으로 관련 논의를 이어왔다. 지난 3월에는 AI가 생성하는 아동·청소년 대상 유해·불법 콘텐츠에 대한 AI 사업자의 책임을 강화하는 정보통신망법 개정안을 대표발의했다.
또 지난 3월부터 법학·언론학·정책·기술 전문가와 법률가, 관계기관 등이 참여하는 비공개 연속 세미나를 열어 규율 대상과 사업자 범위, 사업자 규모·기능에 따른 차등 의무 등을 검토해왔다.
이번 공개토론회에서는 함석천 법무법인 해광 대표변호사가 좌장을 맡고 신미용 변호사와 김주현 대한변호사협회 제2 정책이사가 주제발표를 한다. 개인정보보호위원회, 법원, 법무부, 방송미디어통신위원회, 한국인터넷기업협회 관계자 등도 토론에 참여한다.
이주희 의원은 “온라인 안전을 높이는 일과 표현의 자유를 지키는 일은 함께 풀어야 할 과제”라며 “피해를 입은 이용자는 신속하게 구제받고 부당한 조치를 받은 이용자는 이의를 제기할 수 있도록 권리와 책임이 균형을 이루는 법안을 마련하겠다”고 말했다.
AI가 콘텐츠 생성부터 추천·유통까지 관여하는 환경에서 AI 사업자와 플랫폼에 각각 어디까지 책임을 요구할 것인지, 또 그 과정에서 이용자의 표현의 자유와 선택권을 어떻게 보장할지가 두 법안을 둘러싼 주요 쟁점이 될 전망이다.
