AgentBaton：让强模型与高效模型接力完成智能体任务

长程智能体任务往往不是一次问答，而是由规划、工具调用、环境观察和后续决策组成的连续过程。任务步骤越多，模型调用成本越高；但如果全程使用低成本模型，又可能在关键判断、复杂推理或错误恢复环节出现性能损失。AgentBaton 关注的正是这一矛盾：能否让不同能力和价格的模型在同一项任务中接力工作？

核心要点

• 研究对象从“请求路由”扩展到“任务内交接”：与传统的 query-level routing 不同，论文研究的是一个模型运行一段时间后，将任务状态交给另一个模型继续执行。
• 交接方向非常关键：实验显示，从高效模型交给强模型，通常无法达到仅使用强模型的表现，成本也未必明显下降。相反，在任务进展到合适阶段后，由强模型交给高效模型，更容易保留已有成果并减少后续开销。
• 不需要频繁切换：研究结果表明，一次简单且时机合适的交接，可能已经足够支持有效协作。AgentBaton 因此采用轻量级检测器，从任务进展中反复出现的模式判断何时交棒。
• 成本与准确率同时改善：在 11 组模型配对和两个代表性基准上，AgentBaton 平均减少 65.9% 的 API 成本，同时大体保持任务准确率；部分设置下，准确率较仅使用强模型最高提升 8.8 个百分点。不同推理强度的实验也显示，它拓展了准确率—成本的经验 Pareto 前沿。

这意味着什么

这项工作给智能体系统设计提供了一个相对务实的思路：强模型不一定要覆盖任务的全部生命周期。它可以先处理规划、关键决策或高风险步骤，待任务进入更规律、更容易延续的阶段后，再把控制权交给低成本云模型或本地部署的小模型。这样做的价值不仅在于降低单次调用费用，也可能减少对高价云端资源的持续依赖。

当然，交接并非天然有效。系统需要识别任务所处阶段，并将足够的上下文可靠地传给接棒模型；交接过早可能让高效模型承担超出能力范围的推理，交接过晚则会错过主要节省空间。论文的结论更适合作为设计原则，而不是对所有任务都适用的固定策略。未来还需要在更多任务类型、模型组合和真实生产环境中验证其稳定性。

总体而言，AgentBaton 把“选哪个模型”转化为“在什么时候交棒”。对于调用链较长、成本敏感且任务阶段差异明显的智能体应用，这种一次性、轻量化的协作机制值得作为模型编排方案的一部分加以评估。

来源：Hugging Face Daily Papers