返回文章列表

AnyS1:让智能体把常见决策交给轻量模型

阅读约 2 分钟

导语

调用大模型处理智能体工作流中的每一步,往往既慢又贵;但不少步骤只是从几个已知选项中做选择。AnyS1提出一种折中方案:把这类常规决策交给轻量模型,只有在模型不够确定时才调用更强的System-2。它的关键不只是训练一个小模型,而是试图从已有流程说明中找出“哪里需要选、有哪些选项”。

核心做法

  • 从技能文档提取决策点。 AnyS1把人类编写的程序性技能作为跨领域线索,离线扫描超过1,000项公开技能,挖掘有明确候选项、可枚举的决策。这样做的目标,是减少为每种环境单独编写路由钩子的工作。
  • 用执行过程补足训练数据。 研究者在隔离容器中运行流程,收集与实际执行相联系的状态,并据此构建Any-DP数据集。随后,他们训练一个通用的4B指针式System-1模型,并通过校准和标签平滑处理其选择与置信度。
  • 快路径与回退并存。 工作流编译后,常规决策可以由System-1一次前向计算完成;当置信度低于校准阈值,则交由System-2处理。这避免了把所有步骤都固定交给小模型,也保留了较强模型处理疑难情况的入口。

结果意味着什么

论文在三个未见基准、不同System-2模型家族上测试,报告称相较于未编译、每步依赖System-2的智能体,AnyS1在维持任务可靠性的同时,将每个任务过程的成本降低75%至91%,模型调用时间减少63%至92%。作者还报告了阈值在零样本迁移时仍能维持表现。数字显示,工作流中的部分决策确实可能被提前编译为快速选择,但这些结果仍是特定评测设置下的实验结论,不等同于所有真实部署都能获得同等收益。

更值得关注的是适用边界:技能文档列出的候选项,能否覆盖真实运行中工具返回的状态?如果正确选项不在列表里,系统可能需要回退;若错误选择未能及时触发回退,也可能影响整个任务。因而,实际落地除了关注模型准确率,还应检验真实轨迹中可枚举决策的比例、错误决策的后续影响,以及回退带来的额外延迟。AnyS1的价值在于提供了一条通用化的快慢模型协作路线,能否成为可靠的生产方案,则取决于这些边界问题如何处理。

来源:Hugging Face Daily Papers

评论

正在确认登录状态……

正在加载评论……

相关文章