AI 쇼핑 챗봇이 가짜 판매 사이트를 안내할 수 있다

들어가며

AI 챗봇은 상품 비교, 재고 확인, 브랜드의 구매처 탐색을 위한 새로운 쇼핑 관문이 되고 있습니다. 그러나 지식재산권 보호 기업 Podqi가 실시하고 The Verge가 보도한 테스트에 따르면, 챗봇의 추천이 실제 판매처가 아닌 모방 사이트나 폐쇄된 도메인으로 사용자를 이끌 가능성이 있는 것으로 나타났습니다.

테스트 결과

Podqi는 9월 두 차례에 걸쳐 ChatGPT, Google Gemini, Perplexity를 테스트했습니다. 패션과 생활용품 분야를 포함한 대형·소형 브랜드 151곳을 대상으로 “어디에서 구매할 수 있는가”, “가장 좋은 구매 사이트는 어디인가”, “해외 배송이나 지역 사이트가 있는가”와 같은 질문을 직접 만들었고, 총 6,795개의 답변을 분석했습니다.

조사에서 위험한 사이트로 분류된 유형은 실제 소매업체를 사칭하는 사이트, 위조품을 판매하는 사이트, 브랜드가 사용을 중단한 뒤 다른 사람이 재등록한 도메인, 그리고 운영이 끝났지만 향후 재활용될 수 있는 비활성 사이트였습니다. 세 서비스 모두 답변 과정에서 이런 URL을 언급하거나 표시했습니다.

• Perplexity는 답변의 15%에서 위험한 사이트를 표시했습니다.
• ChatGPT의 비율은 8%였습니다.
• Gemini는 4%로 세 서비스 중 가장 낮았습니다.
• ChatGPT는 위험한 사이트를 노출한 사례의 24%에서 경고를 함께 제공했습니다.
• 대형 브랜드보다 소형 브랜드 관련 질문에서 위험한 URL이 약 두 배 자주 나타났습니다.

집계에는 위험한 사이트를 직접 추천한 경우뿐 아니라, 별도 설명 없이 표시한 경우와 경고를 덧붙여 언급한 경우도 포함됩니다. 따라서 모든 사례가 명시적인 방문 권고였던 것은 아닙니다. 하지만 챗봇 답변에 링크가 등장하는 것만으로도 사용자는 해당 사이트가 공식적이라고 오해할 수 있습니다.

지역 사이트 질문에서 더 커지는 문제

브랜드의 지역별 공식 사이트를 묻는 질문에서는 위험한 URL이 더 자주 나타났습니다. 실제로 지역 사이트를 운영하지 않는 브랜드에 대해 존재하지 않는 지역 사이트가 제시되는 경우도 있었습니다. 한 사례에서 Perplexity는 Stüssy의 공식 사이트가 아닌 페이지를 공식 웹사이트로 지목하고, 정품 구매를 위한 출발점이라고 설명했습니다.

이런 오류는 단순한 정보 오기보다 심각할 수 있습니다. 사용자가 해당 페이지에서 계정을 만들고 주소나 카드 정보를 입력할 수 있기 때문입니다. 도메인의 소유자와 사이트 운영 상태도 고정되어 있지 않습니다. 한때 정상적이었던 주소가 만료된 뒤 제3자에게 넘어갈 수 있고, 브랜드를 모방한 사이트가 검색 유입을 노리고 운영될 수도 있습니다.

소규모 브랜드는 널리 알려진 공식 채널이 적거나 온라인 정보가 분산돼 있어, 챗봇이 여러 출처를 교차 확인하기 더 어려울 수 있습니다. 물론 브랜드 규모만으로 사이트의 안전성이 결정되는 것은 아니지만, 이번 결과는 챗봇이 브랜드별 공식 구매처를 동일한 수준으로 식별하지 못한다는 점을 보여줍니다.

소비자와 플랫폼이 해야 할 일

소비자는 AI 답변을 공식 구매처의 증명이 아니라 검색의 출발점으로 받아들여야 합니다. 결제하기 전에는 브랜드가 기존에 사용해 온 공식 홈페이지나 공식 SNS에서 도메인을 다시 확인하고, 운영 주체가 분명해질 때까지 비밀번호, 신분 정보, 결제 정보를 입력하지 않는 것이 좋습니다.

플랫폼에는 도메인의 최신 소유권과 운영 상태를 확인하는 절차, 지역 사이트와 공식 판매처를 검증하는 기준, 위험 링크에 대한 일관된 경고가 필요합니다. Google은 Gemini가 출처 링크를 제공하며 지속적으로 시스템을 테스트한다고 밝혔고, OpenAI는 기만적인 쇼핑 사이트가 노출될 가능성을 낮추는 보호 기능을 개선하고 있다고 설명했습니다. Perplexity 역시 정확성을 중시하지만 완벽한 정확성을 주장하지는 않았습니다. 핵심은 분명합니다. 출처 링크가 있다는 사실만으로 해당 사이트가 현재도 공식적이고 안전하다고 볼 수는 없습니다.

출처: The Verge AI