Meta广告审核再失守：AI“脱衣”工具瞄准女性政治人物

导语

Meta旗下平台近期被发现投放一款名为Kromix的AI图像与视频生成工具广告。相关广告宣称服务“没有限制”，并暗示用户可以把真实人物带入色情场景；其中一则视频使用了与美国知名女性政治人物高度相似的面孔，随后切入色情表演画面。广告在外部媒体和研究人员提出质疑后被移除。

这并不是单一应用或单次审核失误，而是生成式AI滥用产业链与平台广告机制反复碰撞的又一案例。

核心要点

• Kromix自称“AI图像风格化”工具，但付费用户可以上传照片，将人物置于包括“卧室强奸”等有害情境中。
• 相关广告主要面向男性用户投放，使用“释放新一代AI魔法”等宣传语；部分视频以海滩、山脉或瀑布作为封面，试图掩盖后续色情内容。
• Meta广告资料显示，涉事账户共运行32条广告，每条持续时间约为5至46小时，多数广告曝光量不超过10次。广告在被询问后下架。
• Meta表示，平台此前已移除大量推广“脱衣”服务的违规广告，并正在加强自动检测；但公司也承认没有任何系统能够做到完美拦截。
• 苹果表示，Kromix在初次审核后似乎新增了被禁止的内容和功能，因此已将其从App Store移除。

审核漏洞在哪里

Meta的广告规则禁止裸体、性行为、性暗示内容，也明确禁止推广“脱衣”或“AI接吻”应用。然而，广告审核主要依赖自动化工具，攻击者可以通过新账户、低曝光测试、无害封面和隐晦文案降低被识别的概率。涉事页面创建时间不长且没有粉丝，本应是可疑信号，却未能阻止广告上线。

更棘手的是，违规内容可能并不直接出现在静态素材中，而是由应用在广告点击之后生成。平台若只检查广告表面文字和封面，就可能遗漏产品真正提供的能力。此前研究人员也曾在Meta平台发现包含未成年人性化内容和换脸功能的广告，说明这一问题并不限于成人“脱衣”工具。

意义与影响

非自愿私密影像会造成名誉、职业和人身安全风险。女性政治人物由于公开照片、演讲视频和官方肖像容易获得，长期成为深度伪造攻击对象。生成工具降低了制作门槛后，原本普通的公开素材可能直接变成色情内容的原材料，这也会加剧针对女性的网络骚扰与政治操纵。

对平台而言，问题不只是删除几个广告，而是要同时审查广告、应用功能、开发者账户和支付链路，并在产品更新后重新评估风险。Meta声称会与其他科技公司共享被移除应用及开发者信息，但此次事件表明，依赖自动审核、再由外部曝光触发处置，仍然不足以应对快速迭代的滥用工具。生成式AI广告治理的关键，正在从“发现违规素材”转向识别整套有害服务及其规避行为。

来源：Ars Technica AI