扩散语言模型如何在测试时“多想一步”:频率感知重掩码带来更强推理探索
一项新研究提出频率感知重掩码策略,让扩散语言模型不再只依赖单步置信度决定哪些词元应被确定。通过把额外计算集中到困难样本,并追踪词元在去噪过程中的预测变化,方法提升了数学与代码任务上的测试时扩展效果。
阅读全文一项新研究提出频率感知重掩码策略,让扩散语言模型不再只依赖单步置信度决定哪些词元应被确定。通过把额外计算集中到困难样本,并追踪词元在去噪过程中的预测变化,方法提升了数学与代码任务上的测试时扩展效果。
阅读全文Linum公布基于Pyramid-JiT架构的实验性文本生图模型,训练计算成本约2.1万美元,并以Apache 2.0许可开放权重。其核心思路是绕过VAE,在像素空间中直接学习更适合生成任务的表示。
阅读全文BYOD 提出一套仅训练 LoRA 适配器的方案,将 Gemma、Llama、Qwen 和 Ministral 等自回归模型转换为双向掩码扩散语言模型。实验显示,这种转换可在单张 Colab GPU 上数小时内完成,但低推理步数下的开放式生成质量仍明显落后。
阅读全文视频扩散 Transformer 的 3D 全注意力计算成本高昂,稀疏化又容易损失画质。AB-Attention 通过块内聚类、概率加权采样和更细粒度的 GPU 内核设计,在高稀疏率下改善近似精度与推理速度。
阅读全文NVIDIA 等研究者提出 NLD-Uni,将视觉理解与图像生成统一到一个离散扩散语言模型中。其核心是跨范式在线策略蒸馏与渐进式自修正扩散过程。
阅读全文一项针对扩散语言模型的研究发现,同样长度的输出也可能消耗截然不同的计算量。输出越新颖、词汇越罕见,模型通常需要更多前向传播,而解码速度还可以帮助筛选更可靠的答案。
阅读全文DiffResearch 将扩散语言模型引入深度研究智能体的规划、检索与写作环节。在固定智能体框架和评测方式后,研究团队观察到端到端延迟大幅下降,并提出可提前提取搜索子查询的 dFast 模式。
阅读全文《Correction Training for Diffusion Models》提出一种独立的纠正器训练框架,用于缓解扩散模型训练与推理之间的输入分布偏差。实验显示,该方法在DiT、SiT和JiT上提升了无引导生成质量,同时较好保留样本多样性。
阅读全文MOSS-Image 将 5B 单流扩散 Transformer 与意图感知提示增强结合,重点解决开源文生图模型在长文本渲染和复杂布局控制上的短板。其在长文本评测中取得了开源模型领先成绩,并公布了配套评测基准。
阅读全文GroundAnything 将视觉定位重新定义为视觉证据提取,并用双向扩散替代逐 token 的自回归生成。4B 模型在保持定位精度的同时,探索了最高 4.51 倍的推理加速。
阅读全文SoloQ 面向扩散语言模型提出一种无需校准数据的权重—激活量化方法,并兼顾全序列扩散与块扩散架构。论文显示,在 4-bit 量化和 NVFP4 场景下,该方法能够较好保持模型能力并降低推理资源开销。
阅读全文MC-Sparse针对扩散Transformer中的稀疏注意力失真问题,拆解了性能下降的三个来源,并提出一种无需训练的元数据缓存方案。在视频和3D生成实验中,它在保持接近全注意力质量的同时,带来明显去噪加速。
阅读全文一项新工作提出逆蒸馏遗忘框架 IDU,让扩散或流匹配模型在压缩为单步生成器的同时,降低指定训练子集再次生成的概率。该方法不需要保留数据、额外分类器或特征提取器。
阅读全文ALoDLM 为扩散语言模型引入 token 级自适应循环机制,让已经准备好的 token 提前确定,困难 token 则继续获得额外计算。论文称,该方法在 1.7B 和 8B 规模上同时提升了质量与并行解码效率。
阅读全文HC-DLM 将离散词元预测与持续更新的连续潜变量结合起来,试图解决扩散语言模型并行解码时依赖关系被切断的问题。论文报告称,该方法在数独、Countdown 和 LM1B 上优于同规模的离散与连续扩散基线。
阅读全文阿里通义千问开源Qwen-Image-2.1,试图在较小模型规模下兼顾生成质量、推理效率与使用成本。它将文生图、透明图生成和图像编辑整合到同一视觉生成模型中。
阅读全文一项针对 3B 参数模型的研究显示,将状态空间序列混合器与 block-causal 训练结合,可让扩散语言模型获得精确且恒定大小的缓存。相比注意力缓存,Mamba 在超长上下文下显著降低延迟与显存占用。
阅读全文LLaDA-Image 将从零训练的 6B 参数扩散 Transformer 与冻结的视觉语言理解模块结合,兼顾图像生成、编辑与文字渲染。其 Turbo 版本通过蒸馏将推理压缩到 2—4 步,并开放模型权重、代码和训练配方。
阅读全文EditBridge提出一种面向超高分辨率图像编辑的扩散桥框架,不再把低分辨率编辑结果简单交给独立超分辨率模型处理,而是利用原始高清图像补回真实细节。论文称,该方法可在2K分辨率下实现3.6至8.4倍加速,并将4K编辑耗时控制在61秒。
阅读全文DeepMind 团队在技术报告中介绍了 DiffusionGemma:一个基于 Gemma 4 微调而来的开放权重实验模型,用离散扩散方式并行生成文本。它的核心看点不是参数规模,而是试图把文本生成从“一个 token 接一个 token”推进到“成块迭代细化”。
阅读全文这篇论文研究了视觉生成中文本条件的经验缩放规律,指出真正起作用的并不只是提示词长度,而是提示中结构化语言的含量。作者进一步用这些规律改进训练数据与提示生成器,使系统在多类图像生成评测中取得更强表现。
阅读全文