인공지능(AI) 서비스의 위험성을 정부에 제보해도 사업자의 답변으로 이어지는 비율은 30%에도 미치지 못하는 것으로 나타났다.정부가 사업자에게 전달한 위험 제보 231건 가운데 답변을 받은 것은 68건에 그쳤다.

구글 등 AI 사업자가 유해 응답에 대한 제보를 받고 이용약관이나 정책을 안내했지만, 구체적인 개선 조치는 확인되지 않은 사례도 있었다.


22일 국회 과학기술정보방송통신위원회 소속 이주희 더불어민주당 의원이 방송미디어통신위원회(방미통위)로부터 제출받은 자료에 따르면 지난해 11월부터 올해 9월까지 '생성형 AI 이용자 참여플랫폼'에 접수된 위험 제보는 총 401건이다.

방미통위는 접수된 제보를 모두 검토한 뒤 231건을 사업자에게 전달했지만, 답변을 받은 것은 68건(29.4%)에 그쳤다. 특히 올해 1~9월에는 218건을 전달하고 56건만 답변받았다.

제보 유형별로는 잘못된 정보가 197건으로 가장 많았으며, 불법 정보 64건, 범죄 방조 30건, 개인정보 침해 15건 등이 뒤를 이었다.

실제 제보에는 구글의 '제미나이'가 존재하지 않는 법 조항을 만들어 답하거나, 게임을 명목으로 요청한 질문에 현실에서 활용할 수 있는 범죄 시나리오를 제공했다는 내용이 포함됐다.

이에 구글은 '법률적 판단에는 공식 법령을 확인해야 한다'거나 '범죄 모의는 자사 AI 사용 정책에 위배된다'고 안내했다. 다만 해당 응답의 재발을 막기 위한 구체적인 개선 조치는 확인되지 않았다.

미성년자 대상 성폭력을 소재로 한 AI 캐릭터가 제재되지 않는다는 제보도 접수됐다. 전문가 자문단은 사안의 중대성을 '높음'으로 평가했다.

별도 신고 창구인 온라인피해365센터에도 2024년 12월부터 올해 9월까지 AI 서비스 관련 민원 98건이 접수됐다. 메타의 인스타그램·페이스북 관련 민원이 59건(60.2%)으로 가장 많았고, 오픈AI 챗GPT 10건, 구글 제미나이 8건 순이었다.

문제는 사업자의 후속 조치를 확인할 제도적 수단이 부족하다는 점이다.

방미통위 측은 "법적 구속력이 없어 서비스 개선을 강제하고 있지 않다"고 밝혔다. 온라인피해365센터 역시 신고 내용을 사업자에게 직접 전달하지 않아 조치 결과를 별도로 관리하지 않고 있다.

동반자형 AI 챗봇의 청소년 보호 실태를 점검할 법적 근거도 없다. 현행 정보통신망법에 따른 아동 보호 관련 점검·조치 실적도 없는 것으로 확인됐다.


이 의원은 "국민이 AI 위험성을 제보해도 사업자의 답변과 실제 개선으로 이어지지 않으면 제보창구의 취지를 살리기 어렵다"며 "사업자가 어떤 조치를 했는지 확인하고 후속 대응으로 연결하는 체계를 갖춰야 한다"고 강조했다.

이어 "청소년 보호를 사업자의 자율조치에만 맡겨서는 안 된다"며 "AI 챗봇의 보호조치가 실제로 작동하는지 점검할 제도적 근거를 마련해야 한다"고 덧붙였다.

Kris@news1.kr