"허위 판결이 인용된 주장 서면의 작성자, 허위 판결 인용 경위 등을 기재한 경위서를 제출하기 바랍니다."
최근 서울의 한 법원에서는 재판부가 피고 측에게 내린 석명준비사항에 이러한 내용이 담겼다. 석명준비사항을 통해 재판부는 "피고가 답변서와 준비서면에서 인용한 대법원 판결의 원문을 모두 제출하기 바란다"고 밝혔다. 그러면서 허위 판결과 그 요지를 인용한 부분을 다시 제출하라고도 했다.

대법원을 비롯해 전국 각급 법원에 인공지능(AI)이 생성한 허위 판례를 인용하는 사례가 늘면서, 대법원은 과태료 부과 등 대응 방안을 제시했다. 다만 구체적인 가이드라인 형식이 아닌, 재판부 재량에 맡긴 정도에 불과해 구체적인 책임 소재가 담긴 강력한 제재 방안이 필요하다는 의견도 나온다.

AI 말투·표현 담긴 서면 버젓이 제출…법정에서 "허위 판례 제출 이유" 묻기도
2일 법조계에 따르면 최근 전국 법원에서는 AI의 환각(hallucination) 현상에 따른 허위 판례 인용 사례가 잇따라 드러나고 있다.

대법원에 제출된 상고이유서에는 쟁점과 관련이 없거나 존재하지 않는 사건번호의 판결을 제시한 사례가 있었다.

대구고법에서는 변호사(소송대리인)가 존재하지 않는 대법원 판결을 인용하자, 재판부가 "정확한 사건번호인지 확인이 필요하다"고 석명했으나 변호사는 재차 허위인 대법원 판결을 인용하면서 "사건번호가 부정확할 수 있다"고 주장한 것으로 알려졌다.

허위 판례를 인용한 서면이 제출되는 경우가 늘어나면서 재판부에서는 허위 판례인지를 구분해야 하는 일이 더 늘어난 상황이다.

특히 당사자가 재판에 꼭 출석하지 않아도 되고, 이른바 '나홀로 소송'으로도 다수 진행되는 민사나 행정 사건의 경우 이런 경우가 더 많다. 형사 사건의 경우 공판기일에 피고인의 출석 의무가 있고, 허위 판례를 제출했다가 오히려 피고인의 결과에 나쁜 영향을 줄 수 있기 때문이다.

재경지법의 한 판사는 "이른바 '나홀로 소송'뿐만 아니라, 대리인인 변호사가 다수인 사건에서도 AI를 활용한 것으로 보이는 허위 판례·사건번호가 다수 제출된다"며 "AI가 작출한 것으로 보이는 문장 구성과 표현이 돋보이는 경우가 많다"고 말했다.

실제 법정에서 재판부가 대리인에게 허위 판례를 제출한 사유를 물어본 경우도 있었다.

서울의 한 법원에서는 재판장이 대리인에게 "허위 판례 내용이 담긴 의견서를 제출했는데, 다시 제출하기를 바란다"고 요청한 사례가 있었다.

문제는 AI를 활용한 허위 판례 등이 법원에서 걸러지지 못하고 그대로 판결에 인용될 수 있다는 것이다. 이 경우 또 다른 사건에 인용될 수 있다는 우려가 제기된다.

서초동의 한 변호사는 "재판부에서는 꼼꼼하게 살펴보겠으나 다수의 판례, 사건번호 중 허위가 있을 경우 걸러지지 못할 경우가 생기지 않는다는 것을 100% 보장할 순 없을 것"이라며 "그 판례를 유사한 사건 혹은 다른 사건에서 인용할 경우 허위 판례가 만들어 낸 법리가 사법부 판단에 영향을 줄 가능성도 있다"고 말했다.

변호사가 AI에 의뢰인의 기밀을 입력해 개인정보가 유출될 가능성도 제기된다. 최근 기업들은 로펌과의 계약에 있어 AI에 관련 정보를 노출하지 않도록 하는 내용을 넣고 있는 것으로 알려졌다.

대형 로펌에서는 사건을 수임할 때 AI를 활용하지 않는다거나 유출의 위험이 없는 자체 개발 AI가 있다는 부분을 강조하는 것으로 전해졌다. 하지만 중소형 로펌의 경우 자체 개발 AI가 아닌 범용 AI를 활용하는 변호사들이 다수 있어 기밀 유출에 대한 우려가 여전한 상황이다.

지방변회에 진정 접수도…법원, 대응책 마련 나서

실제 이러한 사례가 많아지면서 지방변호사회에는 해당 변호사에 대한 진정까지 접수되고 있는 것으로 파악됐다. 다만 진정 신청에 대한 처리 여부는 결정되지 않은 것으로 전해졌다.

사법부에서는 관련 연구를 진행해 대응 방안을 제시했다. 법원행정처는 'AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)'를 구성해 활동한 결과를 지난 3월 발표했다.

TF는 당사자 또는 대리인이 AI를 활용해 허위 법령을 인용함으로써 불필요한 소송비용을 발생시켰거나 소송을 지연시킨 경우, 그로 인해 발생한 소송비용의 전부 또는 일부를 부담하게 할 수 있다고 밝혔다.

아울러 변호사가 이를 제대로 검증하지 않고 서면 등에 인용한 경우 대한변협에 징계를 의뢰할 수 있다고 했다.

그러나 이러한 방안은 모두 개별 재판부의 재량에 따라 결정하도록 하고 있어 직접적으로 규제할 수 없다는 지적이 나온다.

"강력 제재할 수 있는 방안 필요"…美 제재금 부과도
법조계에서는 책임 소재와 범위를 정확하게 정해 제재하는 방안이 필요하다는 목소리가 나온다.

부장판사 출신의 한 변호사는 "잘못된 AI 활용으로 인해 법률 비용이 낭비되고 있는 것"이라며 "재판부 재량으로 정한다면 재판부에서도 부담을 느낄 수 있어 조금 더 강력한 제재가 필요하다"고 말했다.

실제 해외에서는 이미 허위 판례를 제출한 변호사에게 적극적으로 제재하고 있다. 미국 뉴욕 남부연방법원은 지난 2023년 AI가 만든 허위 판례를 검증 없이 제출한 변호사에게 5만5000달러의 제재금을 부과했다.

미국 로펌인 설리번 앤 크롬웰(Sullivan&Cromwell)은 뉴욕 남부 파산법원에 제출한 서면에 AI가 생성한 부정확한 내용을 인용했다는 사실을 인정하고 사과하기도 했다.

대형로펌의 한 변호사는 "민사 사건의 경우 법정에 당사자가 가지 않는 경우가 많아 대리인이 허위 판례를 제출해 재판부가 문제 삼더라도 이를 모르고 있을 것"이라며 "변호사의 윤리적 문제 측면에서도 제재 방안이 필요하다"고 설명했다.

shhan@news1.kr