정세진 법무법인 율촌 변호사
예를 들어 한 금융회사가 연체일수가 30일을 넘으면 자동으로 문자 알림을 발송하도록 시스템을 구축했다고 가정해 보자. 이 시스템에는 명확한 목표가 있지만, 사람이 미리 정한 규칙을 그대로 반복할 뿐 스스로 판단하거나 학습하지는 않는다. 따라서 자율성과 적응성이 결여된 시스템으로서 단순한 자동화 프로그램일 뿐, 인공지능기본법상 인공지능시스템에는 해당하지 않는다.
반면 같은 회사가 과거 수천만 건의 거래 데이터를 학습해 고객별 연체 가능성을 예측하고, 그 결과에 따라 연락 시점이나 방식까지 달리 정하는 시스템을 도입하는 경우를 가정해보자. 이 시스템은 명확한 목표가 있을 뿐만 아니라(①) 단순 실행을 넘어 예측이라는 결과물을 생성하고(④), 데이터에 따라 판단을 달리한다는 점에서 자율성과 적응성을 갖춘(②, ③) 시스템이다. 따라서 이 시스템은 인공지능기본법상의 인공지능시스템에 해당한다.
한편 인공지능기본법은 인공지능을 다루는 주체인 인공지능사업자를 규율 대상으로 삼고 있다. 인공지능사업자는 인공지능을 개발하여 제공하는 인공지능개발사업자와 개발된 인공지능을 기반으로 서비스를 제공하는 인공지능이용사업자로 구분된다. 다시 말해 회사가 인공지능을 직접 만들거나, 이를 활용해 서비스를 제공하는 경우에만 법상의 준수 의무가 부여된다.
예컨대 자체적으로 채용·신용평가 AI모델을 개발해 기업 고객에게 제공하는 회사는 인공지능개발사업자에 해당한다. 반면 외부 인공지능을 도입해 지원자 평가나 순위 산정과 같은 채용 평가 서비스를 제공하는 회사 또는 생성형 AI를 활용해 고객 상담이나 콘텐츠 제작 서비스를 운영하는 회사는 인공지능이용사업자로 분류된다.
이와 함께 인공지능기본법은 ‘이용자’와 ‘영향을 받는 자’라는 개념을 구분해 두고 있다. 이용자는 인공지능 서비스를 실제로 사용하는 주체를 의미하며, 인공지능기본법은 주로 인공지능사업자가 이용자를 위해 지켜야 할 의무들을 규정하고 있다. 여기에 더해 법은 인공지능의 결과물로 인해 직접적 또는 간접적인 영향을 받는 사람을 ‘영향을 받는 자’로 정의한다. 예를 들어 채용 AI를 활용하여 합격 여부를 결정한다면, 해당 AI를 사용하는 기업은 이용자에 해당하고, 평가 결과에 따라 합격 여부가 결정되는 지원자는 ‘영향을 받는 자’가 된다.
결국 인공지능시스템을 만들어서 활용하는 전 과정을 놓고 보면 “인공지능개발사업자에서 인공지능이용사업자, 이용자, 영향을 받는 자”로 이어지는 구조가 형성된다. 이 가운데 앞의 두 주체는 법상 의무를 부담하는 주체가 되고, 뒤의 두 주체는 그러한 의무가 존재해야 하는 이유가 된다.
최근 인공지능기본법 시행을 앞두고 “우리 회사는 무엇을 준비해야 하느냐”는 질문을 자주 받는다. 그러나 이러한 질문에 단번에 명확한 답을 제시하기는 쉽지 않다. 그 이유는 법이 모든 상황을 미리 설명해 주는 안내서가 아니라, 최소한의 기준을 제시하는 기준서이기 때문이다. 법이 시행되고 나면 다양한 해석과 사례가 축적될 것이고, 그 과정에서 법의 의미도 점차 구체화될 것이다.
지금 단계에서 가장 현실적인 준비는 내가 쓰고 있는 시스템이 과연 인공지능에 해당하는지, 그리고 인공지능사업자·이용자·영향을 받는 자 가운데 누가 어디에 위치하는지를 점검해 보는 일일 것이다. 그것이 인공지능기본법 시대를 준비하는 가장 현실적인 첫 걸음이라고 생각된다.
■정세진 변호사 △고려대학교 전기전자전파공학 졸업 △한국과학기술원(KAIST) 전기 및 전자공학 석사 졸업 △성균관대학교 법학전문대학원 석사 졸업 △고려대학교 정보보호대학원 박사과정 수료△前김앤장 법률사무소 변호사 △現 법무법인 율촌 변호사 △과학기술정보통신부 고문변호사 △개인정보보호위원회 고문변호사 △금융감독원 금융감독자문위원회 자문위원(디지털/IT분과)△사단법인 벤쳐기업협회 자문위원 △한국핀테크지원센터 혁신금융 전문위원 △한국금융연수원 겸임교수 △성균관대학교 법학전문대학원 겸임교수
