工具超时后怎么办？一项研究为AI代理引入“证据引导恢复”

导语

对能够调用外部工具的AI代理而言，超时并不等于失败。一次支付、预约、写入或发消息操作在返回超时后，可能已经提交，也可能完全没有发生，甚至仍在服务端执行。更棘手的是，代理往往已经完成了工作流中的其他步骤，此时简单重试可能造成重复操作，停止又可能留下未完成任务。

Hugging Face Daily Papers 收录的这项研究，将这类场景概括为“证据引导的任务恢复”。它关注的不是让代理假设一个确定结果，而是在公开可见证据允许的状态范围内，寻找仍然合规、可解释且风险可控的后续行动。

核心要点

• 把未知结果作为一等状态。 工具调用可以被判定为失败、已提交、执行中或无法确认。系统不会强行把“未知”改写成成功或失败，而是据此生成后续策略。
• 用统一检查器约束恢复动作。 研究中的可采纳性检查会考虑密钥是否过期、授权时间是否有效、步骤依赖是否满足，以及重复行动可能产生的残余影响。
• 区分事实完成与安全完成。 终止证书分别描述两种情况：目标在实际状态中确实已经满足，或现有公开证据虽不足以证明目标完成，但已经支持一个安全、可交接的结束状态。
• 规划器与历史裁决器分工。 已知模型实现将标准的、随观察结果变化的规划，与独立实现的效果历史判定器结合起来，避免规划模块单独决定一次有歧义的调用究竟造成了什么。
• 实验结果显示规划建议更有优势。 在37项任务的有限研究中，规划方法和三个主动控制方法都认证了28项完成。另一项预注册、按任务划分留出的比较覆盖19个任务家族和58个配对单元：规划建议认证30次完成，证据提示为9次，差异为36.2个百分点；同时规划使用了272个提案，证据提示使用399个。

如何理解这些结果

所有116条轨迹都通过了独立重放，说明研究者至少验证了执行记录与判定逻辑的一致性。精确家族符号翻转检验得到的 p 值为0.0078，且两个本地模型组合都出现正向完成差异。不过，这并不意味着规划方法在所有代理、工具或真实生产系统中都必然有效。论文明确指出，比较测量的是共同安全屏障下的特定建议接口；如果要直接比较搜索式建议与规则式建议，还需要额外的匹配实验。

意义与边界

这项工作的价值，在于把“调用超时后的重试”提升为一个需要状态推理、证据管理和风险控制的系统问题。对支付、库存、权限、消息发送等具有副作用的工具来说，代理不能只追求完成率，还必须回答：我知道什么、我不知道什么、现在还能安全做什么，以及何时应交给人工处理。

研究也保留了未知和移交状态，并把保证条件绑定到已声明的服务商能力，而不是假设任意第三方都能提供严格的“恰好执行一次”。这为构建更可靠的AI代理提供了一个重要方向：面对不确定性时，系统应少做无依据的猜测，多依赖可审计证据和明确的安全边界。

来源：Hugging Face Daily Papers