DoubtLess：不用训练，让小模型帮大模型少想一点

导语

推理模型的能力往往伴随着更长的思维链。更充分的推导有助于解决复杂问题，但模型也可能在答案已经出现后继续重复检查、重新验证，带来额外的推理成本。DoubtLess 关注的正是这一阶段：不重新训练模型，能否在生成过程中让它更早结束无效的“犹豫”？

核心方法：用小模型区分“简洁”和“冗长”

DoubtLess 是一种训练免对比解码方法。它使用一个明显小于目标模型的推理模型，读取大型推理模型已经生成的思维链，然后进行两次预测：

• 一次要求小模型以更简洁的方式思考，充当“brief thinker”；
• 一次要求小模型给出更完整、更冗长的思考，充当“verbose thinker”；
• 计算两次预测得到的 logits 差异，并乘以可调节的引导强度；
• 将这一差异加入大模型在当前步骤的 logits，持续影响后续 token 的选择。

这不是简单地设置一个更短的最大输出长度，也不是看到某个词就强制停止。它利用的是同一上下文下“简洁推理”和“冗长推理”的方向差异，因此可以在解码过程中动态发挥作用。根据素材，小模型带来的额外计算量约为总 FLOPs 的 4%。

实验结果

在涵盖竞赛数学、研究生水平科学问题和竞争性编程的七个基准上，使用 Qwen3-0.6B 引导 Qwen3-32B 时，DoubtLess 将思考 token 数量减少了 31%，同时保持准确率不变，表现超过五种推理时压缩基线。

方法也被用于自调试编程代理。在任务表现不变的情况下，每轮思考 token 减少了 20%。此外，DoubtLess 在另外两个模型家族上也保持了准确率不变；与已经通过训练获得简洁倾向的模型结合后，还能进一步压缩思维链。行为分析显示，节省的 token 主要来自正确答案首次出现之后的重复检查阶段，而不是直接删掉必要的推导。

意义与局限

DoubtLess 的价值在于把“推理效率”从训练阶段部分转移到了推理阶段。开发者无需为每个目标模型重新准备压缩数据或训练专门的停止策略，只需部署一个较小的辅助模型，并在解码时进行额外引导。这为已有推理模型提供了一种相对轻量的成本优化路径，也说明小模型不一定要独立完成任务，它还可以作为大型模型的行为控制器。

不过，准确率不变的结论目前来自论文所报告的基准和模型组合，不能直接外推到所有任务。引导强度、辅助模型与目标模型的匹配关系，以及额外解码延迟，都可能影响实际收益。对于需要完整、可审计推理过程的场景，减少思维链也需要谨慎评估其可监控性。

总体来看，DoubtLess 的重点不是让模型“少说话”，而是减少答案已经基本确定后的无效复核。它展示了一条不改参数、以小模型辅助大模型的推理加速路线。

来源：Hugging Face Daily Papers