[이데일리 마켓in 지영의 기자] “AI가 만든 제안으로 사고가 나도 현행법에는 책임질 사람이 정해져 있지 않다. 직원은 시스템이 낸 결과라고 하고, 개발부서는 도구를 만들었을 뿐이라고 할 것이다.”

이종섭 서울대학교 경영대학 교수는 4일 서울 여의도 파크원에서 한국경제연구학회 주최로 열린 ‘AI 시대 금융산업이 가야 할 길’ 세미나에서 금융상품 추천에 AI가 활용되는 상황을 가정하며 이같이 지적했다. AI가 단순한 업무 보조를 넘어 금융상품을 추천하고 거래를 실행하는 단계로 발전하고 있지만, 오류나 소비자 피해가 발생했을 때 책임을 어떻게 배분할지에 관한 제도적 논의는 이를 따라가지 못하고 있다는 지적이다.

이 교수는 고객의 자산과 투자 이력, 절세 현황을 분석한 AI가 금융회사에서 많이 판매된 펀드를 추천하는 상황을 사례로 들었다. 추천 이후 문제가 발생하면 직원과 개발부서, AI업체 및 금융회사 모두 자신은 최종 책임자가 아니라고 주장할 가능성이 있다는 설명이다.

그는 AI 금융의 성패를 결정할 핵심 요인으로 활용 가능한 데이터의 범위와 책임 소재를 꼽았다. 이 교수는 “책임이 분명한 만큼 데이터를 열 수 있고, 그만큼 혁신이 지속될 것”이라며 “책임 설계와 데이터 활용 조건은 혁신을 막는 브레이크가 아니라 지속 가능한 혁신을 여는 인프라”라고 강조했다.

AI는 자본시장에서도 투자자 분석과 기업가치 평가, 인수합병(M&A) 의사결정 등에 활용될 수 있다. 기업별 생산방식과 사업구조를 분석해 인수기업과 피인수기업의 결합 가능성을 측정하고, 합병 성사 여부와 이후 성장성 등을 예측하는 식이다.

반면 금융회사들이 유사한 데이터와 알고리즘을 사용하면 투자 판단이 동조화할 위험도 있다. 서로 다른 모델로 시작하더라도 강화학습을 반복하면서 여러 투자자가 같은 종목을 동시에 사고파는 결과가 나타날 수 있다. 이 경우 시장 유동성이 줄고 가격 변동성이 확대되는 등 시스템 리스크로 이어질 가능성이 있다는 설명이다.

이 교수는 “AI는 투자 행위나 의사결정을 동조화시키기 쉽다”며 “공통 기반 모델과 클라우드, 데이터 공급망이 비슷해질수록 위험의 집중도가 높아질 수 있는 만큼 거시적인 감독체계를 강화해야 한다”고 말했다.

정희수 하나금융연구소장은 AI 활용도가 특히 금융투자 분야에서 빠르게 높아지고 있다는 조사 결과를 제시했다. 하나금융연구소가 디지털 이용에 익숙한 금융소비자를 대상으로 실시한 조사에서 금융투자 분야의 AI 이용 만족도는 77.3%였으며, 금융투자 과정에서 AI를 활용한 경험이 있다는 응답도 52%로 나타났다. 목표에 맞춘 포트폴리오 설계에 AI를 활용한다는 응답은 61%였다.

정 소장은 “일반적인 은행 거래보다 주식시장이나 투자상품 거래에서 AI 활용도가 더 높다”며 “앞으로 금융소비자와 금융상품이 만나는 접점이 금융회사에서 AI 플랫폼으로 이동할 가능성이 있다”고 말했다.

AI 확산에 맞춰 금융회사의 내부통제 대상도 임직원에서 데이터와 알고리즘으로 넓혀야 한다고 강조했다. 정 소장은 “금융회사에서 AI 로직을 확실하게 이해하는 사람은 거의 없다”며 “임직원뿐만 아니라 AI 데이터와 알고리즘의 기술적 적합성을 어떻게 내부통제할 것인지가 중요해질 것”이라고 지적했다. 업무 위험도에 따른 AI 등급제와 전담조직 및 전문인력 확충, 외부 플랫폼 의존도 관리, 금융소비자보호법 개편 등도 제안했다.



이어진 패널토론에서는 금융회사의 AI 도입 속도와 위험관리 체계 간 격차가 주요 쟁점으로 다뤄졌다.

박선학 NH투자증권 경영전략본부장은 AI를 업무 자동화 도구가 아니라 회사의 의사결정과 운영방식을 바꾸는 핵심 전략으로 규정했다. NH투자증권은 최근 AX추진부를 신설하고 자산관리(WM)와 투자은행(IB) 등 핵심 사업의 업무 절차를 AI 중심으로 재설계하고 있다.

박 본부장은 “AI가 고객에게 특정 펀드를 추천했다면 단순히 ‘AI가 추천했다’고 설명해서는 안 된다”며 “투자 목적과 손실 감내 수준, 자산 구성 등 어떤 요인이 추천에 반영됐는지를 고객과 현장 직원이 이해할 수 있어야 한다”고 말했다. 이어 “신뢰할 수 있는 금융서비스를 위해서는 AI 의사결정의 투명성에 관한 세부 가이드라인이 마련돼야 한다”고 강조했다.

이경종 KB국민은행 AI금융센터장은 KB금융그룹에서 현재 100여개의 AI 에이전트를 운영하고 있으며 400여개 이상으로 확대하기 위한 개발을 진행하고 있다고 밝혔다. 다만 에이전트마다 모델과 데이터, 답변 정확성을 금융회사가 개별적으로 검증하는 데에는 상당한 비용과 인력이 필요하다고 토로했다.

이 센터장은 “개인이 외부 AI를 사용할 때는 오류 가능성을 받아들이지만 금융회사가 제공한 AI에서 오류가 발생하면 금융사고가 된다”며 “금융회사들이 비슷한 범용모델을 사용하는 만큼 공동으로 모델을 검증하거나 다른 금융회사의 검증 결과를 공유하는 체계가 필요하다”고 제안했다.

백연주 한국금융연구원 연구위원은 AI 확산으로 금융상품의 고객 접점이 금융회사에서 범용 AI와 핀테크 플랫폼으로 이동할 가능성을 제기했다. AI 개발사와 이를 금융서비스에 적용하는 금융회사, 최종 이용자로 이어지는 다층적인 공급망을 고려해 통제 가능성과 예견 가능성, 전문성 및 경제적 이익에 따라 책임을 배분할 필요가 있다는 설명이다. 특정 AI 모델과 클라우드업체에 대한 의존이 커지는 데 대비해 사이버 매핑과 사이버 스트레스테스트를 도입하는 방안도 제시했다.

윤영진 상명대학교 교수와 최정윤 한국화학융합시험연구원 책임연구원은 금융 AI의 공통 위험을 줄이기 위한 국제표준 마련의 필요성을 강조했다. 윤 교수는 “표준은 우수한 품질을 보장하는 체계가 아니라 시장 참여자들이 공통적으로 지켜야 할 기본 기준”이라며 “기업의 경쟁우위를 훼손하지 않는 범위에서 위험과 불필요한 비용을 줄이는 방향으로 마련돼야 한다”고 말했다. 최 책임연구원은 금융 AI 국제표준 논의가 초기 단계인 만큼 설명 가능한 AI와 품질 측정, 에이전트 AI 및 보안 분야에서 한국이 적극적으로 참여해야 한다고 강조했다.

김봉준 금융감독원 디지털금융총괄국 수석조사역은 AI 에이전트 관련 감독 방향에 대해 아직 당국 내부에서 확정된 입장은 없다고 전제했다. 다만 기존 생성형 AI가 이용자에게 답을 제공하는 조언자였다면 AI 에이전트는 판단하고 실행하는 비서에 가까워진 만큼 규율의 기준도 달라져야 한다고 짚었다.

김 수석조사역은 “결국 문제는 AI의 자율성을 어디까지 보장할 것인가로 바뀌어야 한다”며 “실수를 해도 되는 서비스와 실수해서는 안 되는 서비스를 동일선상에 놓기는 어렵다”고 말했다. 이어 “금융소비자 보호와 책임성을 확보하려면 업무별 위험 수준에 따라 자율성을 달리 부여하는 방안을 검토할 필요가 있다”고 밝혔다.

좌장을 맡은 황세운 자본시장연구원 선임연구위원은 AI의 영향이 금융산업 가운데서도 자본시장과 금융투자업에서 더욱 크게 나타날 수 있다고 평가했다.

황 선임연구위원은 “AI는 이미 우리 삶에 깊숙이 들어왔고, 특히 금융 영역 중에서도 자본시장과 관련된 금융투자업에서 영향력이 훨씬 크게 나타날 수 있다”며 “금융의 변화에 대해 어떤 준비를 해야 하는지, 어떤 위험이 있는지를 사전에 인식하고 대비하는 것이 상당히 중요하다”고 강조했다.



한편 이날 세미나는 서은숙 회장이 이끄는 한국경제연구학회가 주최하고 미래에셋증권, 인터레이스자산운용, 주식회사 알파벳, 카카오페이, 한화투자증권, 현대자산운용, KB증권, NH투자증권이 후원했다.