Meta广告审核为何放过了数百条“裸化”未成年人内容

导语

生成式AI降低了制作逼真色情合成内容的门槛，也让普通社交平台的广告审核面临更直接的压力。Tech Transparency Project（TTP）与Wired的调查显示，Facebook和Instagram上曾出现大量推广“裸化”应用的广告，其中一些把真实未成年人的公开照片改造成露骨视频。

核心发现

• TTP称，今年发现332条含有儿童性虐待材料的广告，绝大多数广告推广由中国公司开发或关联的AI应用。
• 调查人员将多条广告中的人物与网上真实存在的儿童照片对应起来，包括一名欧洲王室年轻成员、14岁Instagram用户，以及出现在图库照片中的学龄前或青春期女孩。
• 一些广告使用“没有限制”“真实人物”等文案吸引点击，推广对象并不只涉及未成年人。Wired还发现了数百条针对成年人的相关“裸化”广告，可能同样未经当事人同意。
• TTP在报告一批超过300条广告后，Meta迅速删除了其中约一半；但部分广告在平台记录中并未及时标注为违反儿童保护政策。有的广告在收到举报后仍运行数日，曝光量从个位数上升到数百次。
• 调查称，相关广告在欧盟触达超过2.9万人，在英国触达约6800人，约八成广告投放在美国。Meta则强调，被举报广告平均曝光不足200次、总广告支出低于5000美元，但TTP认为平台可能低估了相关数量。

意义与影响

这起事件的重点不只是某类应用是否危险，而是平台能否在内容上线前识别明显的高风险广告。Meta表示不容忍“裸化”应用或任何形式的儿童剥削，并称部分广告因视频片段短或经过模糊处理而逃过检测。然而，TTP发现，同一图像和文案的相似广告有时得到不同处理，部分举报也被拖延至少一周。

这暴露出三层风险：第一，公开照片可能被快速转化为伤害性合成内容；第二，自动审核、人工复核和广告主身份验证之间存在断点；第三，平台从广告中获得收入，可能与及时封禁高风险客户形成张力。TTP还指出，部分广告与中国广告代理商及疑似虚假商业页面有关。

美国部分州检察长、国会议员以及澳大利亚网络安全监管机构已要求Meta说明情况。随着监管者把AI生成的儿童性虐待材料与传统违法内容同等看待，平台今后需要证明的不只是“发现后删除”，还包括投放前拦截、重复广告联防、保存证据和及时向有关机构报告。

来源：Ars Technica AI