인공지능(AI) 에이전트가 이용자를 대신해 결제하거나 예약하는 과정에서 오류가 발생했을 때, 소비자가 여러 사업자를 찾아다니며 책임을 따지는 일이 없도록 피해구제 창구를 단일화해야 한다는 제안이 나왔다. AI 모델 개발사와 플랫폼, 결제 사업자 등이 관여하는 만큼 사업자별 책임을 명확히 나눠야 한다는 지적이다.

12일 서울 중구 포스트타워에서 방송미디어통신위원회(방미통위)와 정보통신정책연구원(KISDI)이 개최한 '행동하는 AI 에이전트 시대, 이용자보호 청사진을 그리다' 콘퍼런스에서 이 같은 내용의 전문가 토론이 진행됐다.

정지연 한국소비자연맹 사무총장은 "소비자들이 가장 두려워하는 것은 AI의 오류 자체가 아니라 문제가 발생했을 때 책임지는 주체가 불분명하다는 점"이라고 지적했다.

AI 에이전트는 모델 개발사와 플랫폼, 외부 서비스 제공자, 결제 사업자 등이 함께 작동하는 구조다. 이 과정에서 잘못된 결제가 발생하더라도 소비자가 어느 사업자에게 책임을 물어야 하는지 판단하기 어렵다는 설명이다.

정 사무총장은 "소비자가 이들 사이의 기술적 책임을 직접 규명하도록 해서는 안 된다"며 "각 사업자의 실제 통제력과 위험 관리 능력에 따라 책임을 배분하고 소비자에게는 명확한 피해구제 창구를 제공해야 한다"고 강조했다.

고병철 계명대 교수도 피해 접수 창구의 단일화를 제안했다. 그는 "이용자가 문제가 발생했을 때 한 곳에만 제기하고, 사업자들은 각자의 역할과 통제 범위에 따라 원인을 규명하고 해결하는 구조가 맞다"고 말했다.

특히 최종 서비스를 제공하는 사업자가 이용자에 대한 책임을 맡고, 내부적으로 AI 개발사와 결제·클라우드 사업자 등이 역할을 분담하는 방식이 필요하다고 설명했다.

AI가 이용자의 지시를 넘어 임의로 결제하는 상황을 막기 위한 통제 장치도 주요 과제로 제시됐다.

문정욱 KISDI 실장은 "숙소를 알아봐 달라고 했는데 검색에서 멈추지 않고 결제하거나 렌터카와 항공권까지 예약하는 상황이 발생할 수 있다"며 이용자가 위임한 범위와 AI의 실제 행동 사이의 차이를 핵심 위험으로 꼽았다.

그는 검색이나 상품 비교처럼 위험도가 낮은 작업은 자동화하되, 환불이 어려운 결제나 개인정보의 외부 전송 등은 이용자 보호 수준을 높여야 한다고 강조했다.

여러 AI 에이전트가 동시에 작업할 때 발생할 수 있는 중복 결제와 예산 초과 문제도 제기됐다.

고 교수는 "항공권을 담당하는 AI와 숙박을 담당하는 AI가 각각 예산을 기준으로 결제하면 전체 예산을 초과할 수 있다"며 에이전트 간 정보 일관성을 유지하고 동일한 거래가 반복 실행되지 않도록 해야 한다고 설명했다.

AI가 소비자의 이익보다 플랫폼의 수수료나 광고 수익을 우선할 가능성도 경계해야 한다는 지적이 나왔다.

정 사무총장은 "어떤 상품을 비교했고 어떤 기준으로 선택했으며 광고·수수료·제휴 관계가 판단에 어떤 영향을 미쳤는지 소비자가 알 수 있어야 한다"고 말했다.

이어 "제로 클릭이 제로 초이스가 돼서는 안 된다"며 AI에 선택을 위임하더라도 소비자의 최종 선택권과 통제권은 보장돼야 한다고 강조했다.

전문가들은 방미통위가 사업자 간 책임 분담 기준과 피해구제 절차를 마련하고, 실제 피해 사례를 수집해 이용자 보호 정책에 반영할 필요가 있다고 제언했다.

문 실장은 AI 서비스 사업자들이 결제·지시 내역 등을 함께 확인할 수 있는 체계를 마련하고, 이용자와 직접 접하는 서비스 사업자가 민원을 접수해 취소·환불 등 처리 결과를 안내하는 방안을 제시했다.

또한 방미통위가 기술 개발자와 사업자, 소비자단체 간 협력을 조정하고 피해 유형별 대응 절차를 구체화하는 역할을 맡아야 한다고 강조했다.

smk5031@news1.kr