返回文章列表

AgentBaton:让强模型与高效模型接力完成智能体任务

阅读约 3 分钟

长程智能体任务往往不是一次问答,而是由规划、工具调用、环境观察和后续决策组成的连续过程。任务步骤越多,模型调用成本越高;但如果全程使用低成本模型,又可能在关键判断、复杂推理或错误恢复环节出现性能损失。AgentBaton 关注的正是这一矛盾:能否让不同能力和价格的模型在同一项任务中接力工作?

核心要点

  • 研究对象从“请求路由”扩展到“任务内交接”:与传统的 query-level routing 不同,论文研究的是一个模型运行一段时间后,将任务状态交给另一个模型继续执行。
  • 交接方向非常关键:实验显示,从高效模型交给强模型,通常无法达到仅使用强模型的表现,成本也未必明显下降。相反,在任务进展到合适阶段后,由强模型交给高效模型,更容易保留已有成果并减少后续开销。
  • 不需要频繁切换:研究结果表明,一次简单且时机合适的交接,可能已经足够支持有效协作。AgentBaton 因此采用轻量级检测器,从任务进展中反复出现的模式判断何时交棒。
  • 成本与准确率同时改善:在 11 组模型配对和两个代表性基准上,AgentBaton 平均减少 65.9% 的 API 成本,同时大体保持任务准确率;部分设置下,准确率较仅使用强模型最高提升 8.8 个百分点。不同推理强度的实验也显示,它拓展了准确率—成本的经验 Pareto 前沿。

这意味着什么

这项工作给智能体系统设计提供了一个相对务实的思路:强模型不一定要覆盖任务的全部生命周期。它可以先处理规划、关键决策或高风险步骤,待任务进入更规律、更容易延续的阶段后,再把控制权交给低成本云模型或本地部署的小模型。这样做的价值不仅在于降低单次调用费用,也可能减少对高价云端资源的持续依赖。

当然,交接并非天然有效。系统需要识别任务所处阶段,并将足够的上下文可靠地传给接棒模型;交接过早可能让高效模型承担超出能力范围的推理,交接过晚则会错过主要节省空间。论文的结论更适合作为设计原则,而不是对所有任务都适用的固定策略。未来还需要在更多任务类型、模型组合和真实生产环境中验证其稳定性。

总体而言,AgentBaton 把“选哪个模型”转化为“在什么时候交棒”。对于调用链较长、成本敏感且任务阶段差异明显的智能体应用,这种一次性、轻量化的协作机制值得作为模型编排方案的一部分加以评估。

来源:Hugging Face Daily Papers

评论

正在确认登录状态……

正在加载评论……

相关文章

CCTest · Blog
不生成文本,直接选答案:一种面向临床数据的本地智能体方法
AI 智能体
cctest.ai
AI 智能体

不生成文本,直接选答案:一种面向临床数据的本地智能体方法

System 1 Agents 将工具调用拆成由工具结构和用户请求生成的选择题,交由本地决策模型作答,试图减少幻觉并避免敏感数据上传云端。在一组生物医学工具测试中,它的工具选择和参数填写表现优于所比较的本地 LLM 智能体。

阅读全文