让人类指令不再失效：SAI为LLM智能体引入持久化权威控制

导语

当LLM智能体负责拆解任务、调用工具，甚至协调多个子智能体时，人类操作者往往只能通过追加提示来纠偏。问题在于，自然语言指令缺少统一结构，可能被模型误解；随着规划历史不断变长，早先的人工要求也可能逐渐被后续上下文稀释。来自arXiv的一项研究提出Structured Authority Injection（SAI），试图把“人类能否持续控制智能体”从提示技巧提升为协议设计问题。

核心要点

• 用类型化调用替代自由文本覆盖。 SAI通过经过模式验证的Model Context Protocol（MCP）工具调用传递操作者修正，使指令拥有明确的数据结构，而不是依赖模型自行判断一段文字的含义。
• 三类指令对应不同持久性。 方案将覆盖指令分为Constraint（约束）、Priority（优先级）和Strategy（策略），分别承担限制行为、调整任务排序和改变执行方式等作用，并具有不同的持续语义。
• 建立显式的权威层级。 SAI维护一个按等级排序的权威上下文，在每次LLM提示前重新注入，并规定清晰的优先顺序。论文还强调，这条权威通道无法被规划过程直接访问或修改。
• 不依赖微调或模型权重。 该方法面向支持MCP工具使用的指令微调模型，重点在外围协议和提示编排，而非重新训练模型。

实验与边界

研究在九个LLM和八个针对智能体失败模式设计的场景中进行评估。结果表明，结构化覆盖能够减少人工指令被模糊理解的情况，也能缓解多轮规划中的“权威衰减”。在表现较强的模型上，部分模型和场景的提示开销最多降低38%；不过，收益并非稳定地适用于所有模型，论文明确指出模型之间存在较大差异。

意义与影响

SAI的价值不在于让模型天然变得更服从，而在于把控制关系写入智能体的通信与上下文管理机制。对于需要人工监督的自动化编排系统，这种设计有助于区分“模型正在计划什么”和“操作者要求必须遵守什么”，也为审计、权限管理和多智能体协作提供了更清楚的接口边界。

同时，结构化协议并不能自动解决所有控制问题。它仍然依赖模型正确使用工具调用和遵守注入的上下文，且现有结果显示不同模型的收益差异明显。因此，SAI更适合作为一种通用设计模式，而不是对所有智能体都有效的统一方案。其真正落地时，还需要结合具体任务验证覆盖指令的定义、优先级冲突处理和运行时监控机制。

来源：arXiv