HERA：让智能体学会在无解任务前停下来

导语

能够调用工具并完成多步骤任务，并不意味着智能体知道什么时候不该继续行动。在真实环境中，任务可能缺少必要资源、违反约束，或从一开始就不存在有效解。此时，继续尝试不仅浪费计算与工具调用成本，还可能造成错误操作。HERA（Harness-Environment Co-Evolution for Reliable Agentic Abstention）关注的正是这一问题：让智能体更可靠地判断“应该做什么”，以及“是否根本不该做”。

核心要点

• 把拒答视为独立能力。 论文将智能体识别不可行任务并主动停止的能力称为 agentic abstention。传统方法往往在固定任务集上优化模型或智能体框架，容易记住已知失败模式，却难以应对新的环境陷阱。
• 自动生成成对任务。 HERA从可解任务出发，对执行环境施加受控变更，将其转化为必须拒答的不可行版本。这样可以构造一组具有可验证答案的“可行—不可行”任务对，同时尽量保持两类任务的表面相似性。
• 框架与环境共同进化。 系统会分析智能体在既有任务上的失败，并据此调整 harness，也就是负责规划、工具调用、验证和停止决策的外部执行框架。同时，失败模式还会驱动新环境与新任务的生成，形成持续的压力测试循环。
• 拒答与完成并非零和。 在留出的评测任务上，HERA演化出的框架将留置判断准确率从61.7%提高到83.3%，可行任务完成率也从68.3%提升到76.7%。这表明更谨慎并不必然意味着更保守或更低效。

意义与影响

HERA的价值不只在于提高一个模型的分数，更在于改变了智能体可靠性评测的思路。与其不断扩充固定测试集，不如让环境主动制造新的失败条件，再用这些失败反向推动框架改进。这样的闭环更接近真实部署：系统面对的风险并不会完全重复训练期间见过的案例。

论文还报告称，最佳框架无需针对具体模型重新优化，便可迁移到另外19个大语言模型，留置准确率平均提高15.3个百分点；较小模型在该框架辅助下，也能达到更强模型的表现，估算成本降低约85%。这些结果意味着，提升智能体可靠性未必只能依靠更大模型，也可以从工具编排、验证机制和停止策略入手。

当然，素材未提供完整的基准构成、比较方法细节及环境类型，因此这些数字应理解为论文摘要所报告的结果，而不是对所有任务场景的普遍保证。总体而言，HERA把“知道何时停手”从附属行为提升为可训练、可评测、可迭代优化的智能体能力。

来源：Hugging Face Daily Papers