AI深度伪造广告背后：Meta为何被指放任诈骗流量

导语

当公众人物的脸和声音都能被AI复制，社交平台上的诈骗广告就不再只是粗糙的虚假宣传。投资人马克·库班表示，自己经常收到用户来信，误以为他销售一种售价294美元的“糖尿病疗法”。他称，相关广告使用了自己的AI生成形象和声音，却仍能在Meta旗下平台出现。

核心要点

• 深度伪造降低了诈骗门槛。 诈骗者可以借助名人的外貌、声音和身份背书，制造看似可信的医疗或投资推销。即使视频附带“AI生成”或“仅供娱乐”的免责声明，用户在看到核心推销内容后仍可能受到影响。
• 内部文件揭示潜在商业矛盾。 路透社报道，Meta内部文件估计，2024年公司约160亿美元收入、约占总收入10%，可能来自诈骗和违规商品广告。另一份文件称，用户每天接触到约150亿条被归类为“高风险”的广告；相关类别在2024年年底的年度价值估计约为70亿美元。
• 平台拦截标准并不宽松，但未必足够有效。 文件显示，Meta的自动化系统需要判断某广告账户至少有95%的概率涉及诈骗，才会采取封禁措施。未达到这一标准的账户可能继续投放，甚至通过提高广告支出来维持曝光。
• Meta否认这些数字能代表整体情况。 Meta发言人称，相关文件是对公司反诈骗措施的片面描述，并认为“10%”的估算粗略且范围过宽。公司还表示，用户对诈骗广告的投诉在此前18个月下降了58%，并在2025年移除了超过1.34亿条诈骗广告。

影响与意义

这起争议的关键不只是某一批假广告，而是平台如何处理“可疑但尚未达到封禁阈值”的内容。传统诈骗往往依赖文字和图片，AI深度伪造则能同时模拟身份、语气和情绪，使受害者更难凭直觉识别。老年用户尤其容易成为目标：美国联邦调查局数据显示，60岁及以上人群在2025年报告的网络犯罪损失达到77亿美元，其中投资诈骗造成的损失最高。

对平台而言，单纯增加事后下架数量并不能完全解决问题。广告进入推荐系统之前，平台需要更重视身份验证、医疗和金融类内容的证据审查，以及对重复变体的联动识别。对用户和家庭来说，看到名人推荐高收益或“特效疗法”时，应先独立搜索产品名称并附加“诈骗”等关键词核查；发现可疑内容后，也应尽快向平台和美国互联网犯罪投诉中心报告。

AI让伪造内容更便宜、更快，也让平台的审核责任更加具体。Meta最终能否证明其拦截机制足以降低真实伤害，将取决于透明的数据披露、可验证的广告来源，以及对受害者投诉的及时响应。

来源：Hacker News