PolicyGuide：让LLM智能体从守住单步动作走向遵循完整流程

导语

客服智能体真正难以处理的，并不只是“能不能执行某个动作”，还包括“是否按规定顺序完成了整套流程”。例如，退改服务可能要求先确认身份，再检查资格，随后取得用户确认，最后才能调用后台工具。智能体即使没有执行明显的违规动作，也可能因为漏掉其中一个程序步骤而造成合规失败。

从动作防护到流程引导

现有运行时安全机制往往围绕单次动作展开：当模型准备退款、改签或修改账户信息时，系统判断这个动作是否危险，必要时进行阻止。这类机制适合拦截明确的越权操作，却不擅长回答另一个问题：在当前对话状态下，智能体下一步应该补做什么。

PolicyGuide的核心思路，是把每个业务领域的政策编译成工作流图。图中的节点和转移关系表示必要步骤、前置条件以及允许的推进路径。系统在每次用户发言结束时调用主动验证器，结合已经持久化的图状态，重新核对尚未完成的请求，并向智能体返回与当前阶段对应的补救建议。这样，验证器不只是说“这一步不能做”，还会告诉智能体应沿哪条合规路径继续。

实验结果与边界

研究者在τ²-bench的航空、零售和电信场景中评估了PolicyGuide，并使用GPT-5.4作为智能体和验证器。加入该方法后，平均Pass^4由0.42提高到0.62；电信领域的结果从0.19升至0.61，增幅最大。论文将这一差异与领域的工作流结构化程度联系起来：流程越清晰、前置条件越明确，图式引导越容易发挥作用。

论文还报告称，同一套工作流能够迁移到Claude Sonnet 4.6和Gemini 2.5 Pro智能体。补充测试覆盖了对抗性用户和作者设计的工作流级验证，PolicyGuide取得了所观察结果中的最低攻击成功率，并表现出较强的程序合规性。不过，这些结果仍来自论文所列出的特定任务、模型与验证设置，不能直接等同于所有企业流程中的普遍保证。

意义与影响

这项工作把智能体安全的控制粒度从“工具调用前检查”推进到“对话状态与流程状态联合管理”。对企业而言，政策落地不再只是维护一组禁止规则，也可以表现为可执行、可追踪的流程图；对智能体而言，合规要求从静态约束变成了下一步行动的具体指导。

它也提示了一个工程方向：未来的客服智能体可能需要同时拥有任务规划器、工作流状态存储和独立验证器。这样的架构有助于减少漏问、跳步和过早执行，但工作流图的编制质量、政策更新成本，以及复杂例外情况的表达能力，仍将决定系统能否在真实业务中稳定运行。

来源：Hugging Face Daily Papers