返回文章列表
扩散模型

GroundAnything:用扩散式并行解码加速视觉定位

阅读约 3 分钟

导语

视觉定位模型需要回答的不只是“图中有什么”,还要指出目标在哪里、目标之间有什么空间关系。传统自回归(AR)模型通常按照固定顺序逐个生成这些空间预测,因此推理速度受串行解码限制,也会把并不存在的“从左到右”因果关系强加给输出。GroundAnything 的核心观点是:定位更像从图像和文本查询中提取相互约束的视觉证据,而不是写出一段必须按顺序完成的文本。

核心方法

GroundAnything 是一个 4B 参数的视觉定位基础模型,主要设计包括:

  • 双向扩散定位:模型以并行方式生成空间假设,再通过多轮去噪共同修正目标、位置和关系,避免逐 token 解码带来的延迟。
  • 块级去噪:输出被组织为可联合优化的块,使模型能够在保留结构信息的同时进行并行预测。
  • AR 到扩散的转换:训练流程先利用公开数据集和专门的数据引擎开展定位预训练,再将自回归模型转换为扩散模型,并联合优化 AR 与扩散目标。
  • 多阶段后训练:在监督微调之后,研究团队进一步使用 GRPO 进行强化后训练,以改善定位结果。
  • 多种解码策略:除标准扩散推理外,模型还支持熵引导解码与自推测模式,用于在精度和速度之间进行调节。

实验表现

在 30 个视觉定位基准上,GroundAnything-VLM(自回归版本)平均得分为 72.42%,在同等规模模型中达到新的整体最佳,并略高于素材中列出的 GPT-6 Astra 71.35%。扩散版本配合熵引导解码后,平均得分达到 61.75%,高于同规模快速 MTP 模型 LocateAnything 的 53.32%。

速度方面,自推测模式相较 AR 对照版本实现 4.51 倍加速,同时 COCO F1m 下降 0.74 个百分点。项目介绍还将其概括为约 4 倍加速,但具体收益仍取决于硬件、解码配置和评测方式,因此不能简单视为所有场景下的固定倍数。

意义与局限

GroundAnything 的价值不只在于提出一个更快的定位模型,也在于说明扩散式并行生成可以适配具有结构约束的视觉输出。对于交互式图像理解、机器人感知和需要低延迟反馈的多模态应用,减少空间预测的串行等待可能十分重要。与此同时,扩散解码通常需要多轮迭代,实际吞吐、显存占用以及不同任务上的稳定性仍需要更完整的公开实验来判断。该工作目前更适合被看作 AR 定位与并行扩散之间的一种系统性折中方案,而不是对所有视觉定位任务的统一替代。

代码和模型权重已开放,研究者可以进一步复现其解码策略,并检验并行定位在不同数据分布和部署环境中的收益。

来源:Hugging Face Daily Papers

评论

正在确认登录状态……

正在加载评论……

相关文章