사법부가 시범 운영 중인 '재판지원 인공지능(AI)'에 지난 2월부터 8월까지 약 27만 건의 질의가 입력된 것으로 나타났다.

다만 AI가 사실과 다른 정보를 그럴듯하게 제시하는 '환각 현상'(할루시네이션)에 관한 별도의 계약상 성능 기준은 마련되지 않은 상태다.

20일 국회 법제사법위원회 소속 이성윤 더불어민주당 의원실이 대법원으로부터 제출받은 자료에 따르면 지난달 31일 기준 재판지원 AI의 누적 질의와 답변은 각각 27만 1839건이었다.

재판지원 AI는 법관과 법원 직원 등의 판례·법령 검색과 문서 요약 등을 돕는 시스템으로, 외부망과 분리된 내부망에서 운영된다.

올해 2월 7일부터 지난달 말까지 시스템을 이용한 법관은 3178명으로, 이들이 입력한 질의는 13만 536건이었다. 이용 법관 1인당 평균으로는 약 41건이다.

다만 생성형 AI는 사실과 다른 정보를 그럴듯하게 제시하는 '환각 현상'을 일으킬 수 있다.

대법원은 "재판지원 AI 사업의 정확도·환각·개인정보·보안 등에 관한 별도의 계약상 성능 기준은 없다"고 밝혔다.

문장을 분석하고 답변을 생성하는 소규모 언어모델 특성상 오류를 완벽히 제어하기에는 기술적 한계가 있어 별도 기준을 명시하지 않았다는 설명이다.

AI 생성 결과를 판결문이나 결정문 작성에 직접 활용한 현황을 파악·관리하는지에 대해서도 대법원은 "별도로 관리되고 있지 않다"는 답변을 내놓았다.

이어 "잘못된 사건번호 처리 등 오류를 줄이기 위한 작업을 진행하고 있다"며 "재판지원 AI 답변 오류가 실제 재판업무에 반영된 사례는 확인되지 않았다"고 덧붙였다.

한편 법원행정처는 지난 2월 발간한 '법관을 위한 AI 가이드북'을 통해 별도 검증 절차를 거쳤는지 확인하는 항목을 실무에서 점검토록 안내하고 있다.

재판지원 AI 사용자 설명서도 허위 정보를 완전히 제거하기 어렵다며 답변에 등장하는 법 조항이나 사건번호가 실제로 존재하는지 확인하도록 한다.

대법원은 시스템 시범운영 과정에서 사용자 의견을 수렴해 답변 정확도 개선, 근거 제시 체계 고도화, 기능 확장 등을 추진할 방침이다.

zionwkd@news1.kr