AIディープフェイク広告がMetaの詐欺対策に突きつける課題

導入

AIで顔や声を再現できるようになり、オンライン詐欺は単なる偽広告から、本人が推薦しているように見える偽の動画へと変化している。投資家のマーク・キューバン氏は、自分が294ドルの糖尿病治療法を販売していると信じた人々から、毎週のように連絡を受けると語った。同氏によれば、広告には自身の顔と声を模倣したAIが使われ、Metaのサービス上で配信されている。

主なポイント

• 偽の推薦が信頼感を生み出す。 詐欺業者は著名人の顔、声、肩書きを利用し、医療商品や投資商品を宣伝できる。動画に「AI生成」や「娯楽目的」といった注意書きがあっても、先に見た売り文句の影響を打ち消せるとは限らない。
• 社内資料が示す収益上の矛盾。 ロイターによると、Metaの文書は、2024年の収益の約10％にあたる約160億ドルが、詐欺や禁止商品に結びつく広告から生じる可能性を見積もっていた。別の資料では、ユーザーが1日に目にする「高リスク」広告を約150億件とし、2024年末時点でこの分野の年間価値を約70億ドルと評価している。
• 自動判定にはグレーゾーンがある。 文書によれば、Metaが広告主を停止するには、詐欺である可能性をシステムが少なくとも95％と判断する必要がある。その基準を下回るアカウントは、広告費を増やしながら掲載を続けられる可能性がある。
• Metaは解釈に反論している。 広報担当者は、文書が詐欺対策を選択的に示していると説明し、10％という推計も大まかで範囲が広すぎると指摘した。一方で、詐欺広告への苦情は直近18カ月で58％減り、2025年には1億3400万件超の詐欺広告を削除したとしている。

意味と影響

問題の核心は、明らかに怪しいものの、まだ削除基準に達していない広告をプラットフォームがどう扱うかにある。従来の詐欺は不自然な文章や画像で見分けられる場合もあったが、生成AIは人物の表情、話し方、感情的な説得まで低コストで再現できる。見た目だけで判断することは難しくなっている。

高齢者への被害は特に深刻だ。米連邦捜査局（FBI）によると、60歳以上の人々が2025年に報告したインターネット犯罪の損失は77億ドルに達した。投資詐欺の被害が最も大きく、AIが関係した3,100件超の苦情では、合計3億5200万ドル超の損失が報告された。これは申告された事例だけであり、実際の被害はさらに多い可能性がある。

広告主の本人確認、医療・金融広告の根拠確認、類似する広告をまとめて検出する仕組みが必要になる。利用者も、著名人が勧める商品をそのまま信じず、商品名に「詐欺」などを加えて検索し、疑わしい広告は速やかに通報すべきだ。AI時代の安全対策は、削除件数だけでなく、再発防止と判断基準の透明性で評価される。

出典：Hacker News