返回文章列表
视觉与视频

动态训练能否补上深度伪造检测的现实缺口?BMF 给出公开评测

阅读约 3 分钟

导语

深度伪造检测正在遭遇一个尴尬现实:许多模型在 FaceForensics++ 等学术基准上接近满分,一旦进入真实互联网内容、商业风控或新一代生成模型输出场景,性能就可能大幅下滑。这篇 arXiv 论文将问题归因于“静态检测器”与“动态生成前沿”之间的错位,并提出 BitMind Forensics(BMF)作为一种持续演化的检测系统。

论文的核心观点并不是再训练一个单次发布的检测模型,而是把训练过程放进开放对抗环境中。BMF 通过 Bittensor SN34 运行:参与者持续提交、挑战和刷新样本分布,使检测器不再只依赖某个历史时点的训练集。作者随后选取一个带日期的导出版本,分别评估图像、通用视频和人类视频检测检查点。

核心要点

  • 评测覆盖面较广:论文在 19 个公开数据集上测试,包括 FaceForensics++、Celeb-DF、DFDC、DFD、UADFV、DF40 等传统换脸数据集,也包括 Sumsub、Deepfake-Eval-2024、WildRF、Community Forensics、AIGCDetectBench、GenImage、AI-GenBench、AIGIBench、RAID、GenVidBench、GenVideo-100K 等更贴近真实或生成式媒体的基准。
  • 真实场景表现是重点:在 Sumsub 原始图像上,BMF 达到 0.936 AUC;在其四种条件合并的 140 万图像评测中,整体 AUC 为 0.872。面对 JPEG 压缩和下采样,AUC 分别为 0.855 和 0.799;使用 GPEN 增强后,检测 AUC 提升到 0.996。
  • 与商业和开源检测器对比:在 Deepfake-Eval-2024 上,BMF 图像检测 AUC 为 0.915,接近或超过论文列出的最佳商业检测器 0.90;视频检测 AUC 为 0.822,高于商业检测器 0.79,也明显高于最佳开源检测器的 0.56 和 0.63。
  • 生成式媒体检测能力突出:在 21 个生成器组成的 AI 图像面板上,BMF 达到 0.991 AUC;在 GenVidBench 上达到 0.918。论文还报告其在 DFDC 上超过 FF++ 训练前沿结果,在 Celeb-DF v2 上也取得更高 AUC,并说明这些比较经过污染审计。
  • 时间维度验证“持续演化”:作者比较多个日期导出的模型,在静态基线训练集中未出现的生成器媒体上,图像 AUC 从 0.842 提升到 0.902,视频 AUC 从 0.864 提升到 0.936。这一结果支持其“持续刷新训练分布有助于追赶生成模型演进”的主张。

意义与影响

这项工作的重要性在于,它把深度伪造检测从“模型排行榜”问题推进到“持续对抗系统”问题。随着扩散模型、视频生成模型和人脸增强工具不断迭代,固定训练集上的静态检测器很容易学到过期伪影。BMF 的思路更接近安全攻防:检测器必须不断接触新攻击、新压缩、新增强和新生成器输出。

不过,论文也应被谨慎解读。首先,arXiv 论文尚不等同于同行评审结论;其次,虽然作者称评测工具公开、生产 API 在发布时提供同一快照以便复核,但外部研究者仍需独立验证其可重复性、样本覆盖和阈值选择。再次,动态竞赛机制可能提升适应性,也可能引入训练分布偏置,关键在于长期透明的基准、审计和版本管理。

总体来看,BMF 给深度伪造检测提供了一个值得关注的方向:与其期待一次性训练出的“万能鉴伪器”,不如构建能随生成技术一起演化的检测基础设施。对于平台风控、身份验证、媒体取证和内容审核而言,这种动态系统或许比单点模型更接近现实需求。

来源:arXiv

评论

正在确认登录状态……

正在加载评论……

相关文章