인공지능(AI)이 이용자를 대신해 상품을 고르고 결제하는 단계로 들어섰다. 메타, 아마존과 같은 해외 빅테크에 이어 국내에서도 구매와 결제까지 수행하는 'AI 에이전트'가 현실화될 전망이다. 그러나 이용자의 선택권 제한, 카드 정보 등 민감한 금융 정보 유출 위험 등 우려도 제기된다.

28일 업계에 따르면 AI 에이전트는 상품 검색과 비교를 넘어 예약, 구매, 결제 등 실제 행동으로까지 그 활동 반경을 넓히고 있다. 이용자가 원하는 조건에 맞춘 상품을 비교·분석해 장바구니에 담고 구매까지 해주는 식이다.

메타가 이달 공개한 개인용 AI 에이전트 '뮤즈'는 이용자를 대신해 여행 예약을 수행하고 쇼핑을 완료할 수 있다. 에이전트는 결제 등 최종 의사결정이 필요할 때만 이용자에게 확인을 요청하는 알림을 보낸다.

아마존의 쇼핑 AI '알렉사 포 쇼핑'은 사용자와의 이전 대화, 구매 이력 등을 기억해 상품을 추천해 줄 뿐 아니라 이용자의 요청에 따라 상품을 장바구니에 담는다. 'Buy for me'는 AI 에이전트가 이용자를 대신해 전체 구매 과정을 처리하는 기능으로, 결제에 이용자의 기본 배송 주소와 신용카드를 사용한다.

국내에서도 결제까지 대신하는 AI 에이전트 개발에 박차를 가하고 있다. '모두의 AI' 사업자인 SK텔레콤, 카카오, KT는 상품 탐색부터 예약·구매·결제를 연결하는 실행형 AI를 준비 중이다. 네이버는 연내 일부 상품군을 대상으로 에이전트 내 결제 기능을 시범 적용할 계획이다.


AI가 대신 고른 상품…'자사우대' 식별 더 어려워져
AI 에이전트는 가격, 성능, 디자인 등 이용자의 요구사항에 맞춰 제품을 비교·추천할 수 있다. 그러나 AI 에이전트가 무엇을 근거로 조건을 충족한 여러 제품 중에서도 특정 제품을 이용자에게 우선적으로 보여주는지 불명확하다.

한국경제인협회 산하 한국경제연구원은 최근 'AI 에이전트 시대의 경쟁 이슈와 한국의 정책적 대응'이란 보고서를 통해 이러한 문제를 지적했다.

보고서는 이용자의 의사결정 전반에 AI가 관여한 상황에서 AI 에이전트를 운영하는 플랫폼 기업의 '자사우대' 등 차별 행위를 식별하기 어려워질 수 있다고 지적했다.

플랫폼은 알고리즘을 조정해 자사나 파트너사의 제품 또는 서비스가 소비자에게 선택되도록 차별적인 순위나 노출을 제공할 수 있다.

AI 에이전트를 사용하면 이러한 자사우대를 알아차리기 쉽지 않다. 검색 결과 상단 노출 등 기존 플랫폼 기업의 자사우대는 외형적으로 식별이 가능한 수준이었지만, AI 에이전트는 최종적으로 선택된 결과만을 보여주기 때문이다. 기존보다 사용자에게 노출되는 선택지가 적어짐에 따라 추천 알고리즘의 불투명성이 강화되는 셈이다.

연구진은 "AI 기능이 사용자의 의사결정 전반에 유기적으로 관여하지만, AI 에이전트의 사용자는 최종 단계에서 자연어 기반의 단일 답변만을 소비해 중간 단계의 왜곡을 인지하기 어렵다"며 "AI 에이전트 시대의 자사우대는 사용자 입장에서도, 경쟁 당국 입장에서도 식별하거나 법적으로 입증하는 데 상당한 한계가 존재한다"고 지적했다.

카드 정보 유출·AI 사칭 우려…금융권 "소비자 보호 미비"
AI 에이전트가 구매 전 과정에 관여하면서 금융 정보를 비롯한 민감한 개인정보가 유출되거나 해커 등이 AI 에이전트를 사칭해 사기나 부정거래를 시도할 위험성도 제기된다.

최근 ASB와 뱅크오브아메리카, 캐피털원, 호주커먼웰스은행(CBA), ING, 넷웨스트(NatWest) 등 글로벌은행 6곳은 '에이전틱 커머스에 대한 신뢰 구축'이라는 보고서를 통해 AI 에이전트가 상품 탐색부터 결제까지 폭넓게 관여하는 '에이전틱 커머스'가 가져올 여러 위협을 설명했다.

글로벌 은행들은 일부 AI 에이전트 서비스 제공업체가 소비자의 카드 정보를 요구해 웹사이트에 직접 입력하거나, 소비자 보호 수준이 낮은 결제 수단을 우선하고, 결제 처리 표준 및 결제 네트워크 규칙을 준수하지 않을 수 있다고 경고했다.

또한 악의적 행위자가 AI 에이전트와 판매자를 사칭해 사기와 부정거래를 위한 공격을 시도할 수 있다고도 내다봤다.

개인정보 유출 위협도 제기했다. AI 에이전트를 통해 생성되는 사용자의 대화형 프롬프트, 의사결정 기록, 구매의도에 대한 지시, 구매 세부 정보 등의 데이터가 유출되거나 충분한 동의 없이 프로파일링과 같은 2차적 목적으로 데이터가 부적절하게 사용될 위험이 있다고 지적했다.

글로벌 은행들은 "에이전틱 커머스의 발전 속도가 거버넌스 체계를 앞서고 있다"며 "업계 표준과 정책, 소비자 보호 체계는 아직 완전히 정의되거나 확립되지 않았다"고 지적했다.

이에 글로벌 은행 6곳은 에이전틱 커머스의 위협을 방지하고 신뢰를 구축하기 위해 투명성과 안전, 개인정보 및 데이터, 선택권, 그리고 상호운용성을 핵심 원칙으로 내세웠다.

글로벌 은행들은 에이전틱 커머스 서비스 업체가 소비자와 판매자 모두에게 AI 에이전트가 어떤 방식으로 의사결정을 내리는지 투명하게 공개하고, 결제정보를 입력하고 구매 의도 및 결제를 확인하는 과정에서 안전하고 추적 가능한 방법을 사용해야 한다고 제언했다.

sumin02@news1.kr