EdgeWise：让长程智能体学会把关键步骤交给云端

导语

长程智能体通常需要连续完成分析、规划、执行和纠错等多个步骤。若每一步都交给云端前沿大模型处理，任务能力固然更有保障，但推理费用也会随着轨迹长度快速累积。EdgeWise的核心判断是：一条任务轨迹中的步骤并不等价，真正需要大模型能力的可能只是少数关键节点。

核心方法

EdgeWise采用本地小语言模型作为默认执行者，并把云端大模型视为按需调用的能力补充，而不是全程运行的主引擎。系统围绕每一个步骤学习是否委派，主要包含以下设计：

• 本地优先：普通步骤由设备侧小模型完成，减少云端请求和相关推理开销。
• 选择性委派：当某一步需要更强的推理、规划或纠错能力时，才将任务交给云端大模型。
• 步骤级强化学习：将任务解决与委派决策联合优化，并针对单次委派进行更细粒度的信用分配，使系统能够学习哪些决策真正有助于最终结果。
• 外部评审策略：论文还引入基于外部评审器的委派方案，用于系统考察何时委派、由谁做决定、共享哪些上下文，以及云端应以多高频率介入。

这一设计并非简单地把大模型调用次数设为固定比例，而是尝试让调用行为与任务进展、步骤难度和当前状态相匹配。对于长程任务而言，这种按步骤分配模型能力的方式，比让同一个强模型包办全部过程更具成本弹性。

实验结果与意义

实验显示，EdgeWise在SWE-Rebench上最多可降低62%的推理成本，在Terminal-Bench 2.1上最多降低34%，同时达到或超过纯大模型执行的表现。研究团队还在本地工作站上部署了该框架，观察到与实际边云环境相近的成本节省效果。

这项工作的重要性不只在于节省调用费用。它提供了一种更现实的智能体部署思路：本地模型负责高频、常规的交互，云端模型负责低频但高价值的决策。对于需要处理代码、终端操作或其他多步骤流程的应用，这种架构有望缓解云端依赖、延迟和资源消耗之间的矛盾。

当然，选择性委派也带来新的工程问题。系统必须准确识别困难步骤；如果过早委派，成本优势会被削弱，如果错过关键节点，整体任务又可能失败。因此，委派策略本身将成为智能体可靠性和效率的重要组成部分。EdgeWise的贡献，正是把这一决策从固定规则推进到可学习、可分析的步骤级机制。

来源：Hugging Face Daily Papers