AIショッピング案内が偽サイトを推薦、3サービスの調査で判明

はじめに

AIチャットボットは、商品比較や在庫探し、ブランドの購入先を調べるための新しい入口になりつつあります。しかし、知的財産保護会社Podqiが実施し、The Vergeが報じた調査では、こうした回答が本物そっくりの偽サイトや、すでに使われていないドメインへ利用者を導く可能性が示されました。

調査の概要と結果

Podqiは9月の2期間にわたり、ChatGPT、Google Gemini、Perplexityをテストしました。対象はファッションやホーム用品など151ブランドで、「どのサイトで買えるか」「おすすめの購入先はどこか」「海外配送や地域別サイトはあるか」といった独自の質問を作成し、合計6795件の回答を分析しました。

同社が「危険」と分類したのは、実在する小売業者になりすますサイト、模倣品を販売するサイト、ブランドが手放した後に別の人物へ再登録された古いドメイン、そして停止中で将来再利用される可能性のあるサイトです。3つのサービスすべてで、こうしたURLが回答中に現れました。

• Perplexityは15%の回答で危険なサイトを表示しました。
• ChatGPTは8%でした。
• Geminiは4%で、3サービスの中では最も低い割合でした。
• ChatGPTは危険なURLを示したケースの24%で警告を添えました。
• 大規模ブランドより小規模ブランドの質問で、危険なURLが約2倍出やすくなりました。

この集計には、サイトを推薦したケースだけでなく、文脈なしに表示したケースや、危険性を警告しながら言及したケースも含まれます。したがって、すべてが明確な推奨だったとは限りません。それでも、チャットボットの回答にリンクが登場するだけで、利用者に「信頼できる」という印象を与える可能性があります。

地域別サイトの質問にリスク

地域別の公式サイトを尋ねる質問では、危険なURLが現れる頻度が高い傾向にありました。実際には地域サイトを持たないブランドについて、存在しない地域版サイトが提示される場合もありました。調査例では、PerplexityがStüssyの公式サイトとして誤ったページを挙げ、正規品を買うための出発点だと説明しています。

これは単なる知識の誤りにとどまりません。利用者がそのページでアカウントを作成し、住所やカード情報を入力する可能性があるためです。また、ドメインの所有者やサイトの稼働状況は時間とともに変化します。以前は正規だったURLが失効し、第三者に再利用されることもあります。

小規模ブランドは、公式サイトや公式アカウントなどの確認材料が少ない場合があり、AIが情報を照合しにくい可能性があります。もちろん、規模だけで安全性が決まるわけではありませんが、調査結果はブランドによって案内の信頼性に差が出ることを示しています。

利用者とAI企業への示唆

消費者はAIの回答を購入先の証明ではなく、調査の手がかりとして扱うべきです。購入前には、ブランドが以前から利用している公式サイトや公式SNSからドメインを確認し、パスワード、本人情報、決済情報を入力する前に運営者を照合する必要があります。

AI企業側には、ドメインの現在の所有者や稼働状況を調べる仕組み、地域サイトや正規販売店を扱うための検証、警告の一貫性が求められます。GoogleはGeminiで情報源へのリンクを表示していると説明し、OpenAIも危険なショッピングサイトを減らす対策を進めているとしています。Perplexityも正確性を重視するとしながら、完全な正確さは約束していません。今回の調査が示すのは、引用リンクがあることと、そのリンクが現在も公式で安全であることは別問題だという点です。

出典：The Verge AI