안기순 로앤컴퍼니 법률AI연구소장.(사진=로앤컴퍼니)
사법부 AI 도입의 성공과제로 단연 할루시네이션 억제를 꼽았다.
이와 함께 법원의 자체 구동 시스템보다 작은 크기의 AI 모델을 사용할 경우 업무 목표를 1회의 답변 생성으로 달성하기는 어려울 수 있다고 했다. 안 소장은 “업무를 유형화 및 세분화해 각 업무에 대한 정확도를 모델 파인튜닝(추가학습)이나 정교한 엔지니어링 등으로 최대화 할 필요가 있다”며 “이를 절차화하거나 에이전트 방식으로 자율적으로 업무를 수행하는 방향도 고려해볼 수 있다”고 조언했다.
사법부의 AI시스템 운영 측면에선 데이터 보안과 함께 정보의 편향성 최소화에도 주목해야 한다고 봤다.
안 소장은 “법원에서 다루는 데이터는 민감한 정보나 사생활 정보를 다수 포함하고 있다”며 “재판에 대한 메모나 양형 조사자료 등 어떤 영역보다 보안을 강화해야 한다”고 했다. 이어 “또 데이터 활용 단계부터 정보의 편향성을 최소화할 수 있도록 데이터의 다양성·공정성 확보에 심혈을 기울여야 한다”며 “AI 답변의 최종 검증은 이용자가 진행할 수 있도록 ‘인간의 지휘권과 통제권’을 운영 절차의 기본 원칙으로 명시하는 노력도 필요하다”고 강조했다.
법률 AI시장 전망에 대해 그는 “향후 3~5년 내 법조계 전반의 AI는 ‘질문과 답변을 통해 업무를 보조’하는 단계에서 ‘스스로 실행계획을 세우고 하위도구들을 지휘’하는 이른바 ‘자율형 AI 에이전트’로 고도화하는 방향으로 나아갈 것”이라고 전망했다.
신뢰가 핵심인 법률영역이라는 점을 고려해 안 소장은 “보다 구조화되고 안정적 업무처리 절차를 갖추고 업무 효율성을 높이는 방향으로 진화할 것”이라며 “사법부는 강화한 소버린 AI를 기반으로 사법 행정 전반에 AI를 본격적으로 내재화하고 활용 역량 강화에 더욱 주력할 것으로 보인다”고 했다. 그러면서 “기술 도입 확산에 따라 AI 윤리 및 거버넌스 등에 대한 기준도 정밀하게 수립하게 될 것으로 보인다”고 내다봤다.
마지막으로 안 소장은 “사법부 AI도입이 성공적으로 정착하려면 법관들이 AI에 대한 정확인 이해를 통해 최종 지휘자 역할을 해야 한다”며 “AI가 제시한 답변을 정밀하게 검증할 수 있는 전문가로서의 역할에 충실해야 한다”고 강조했다.









