DialFork：别只检查事实，也要识别对话流程幻觉

导语

让对话代理查询天气，模型可能始终保持礼貌，回答也没有明显事实错误，但聊了很多轮后，用户仍然没有得到天气预报。这类问题的关键不在“说错了什么”，而在“没有按要求推进任务”。论文将其称为程序性幻觉（procedural hallucination），并推出 DialFork 基准，专门评估对话过程是否偏离既定路径。

核心要点

• 从事实正确扩展到流程正确：传统事实性评估主要检查回答是否真实、是否与上下文相关，却不一定能发现代理跳过步骤、错误推进或陷入无效循环的情况。
• 用对话分叉构造数据：研究团队以符合流程的对话为基础，在受控的轮次位置引入变化，使后续对话从原本的正确路径“分叉”。分叉位置也为识别偏离起点提供了天然标记，减少了逐句人工标注的依赖。
• 覆盖多任务、多领域：DialFork 包含 36,278 段英语对话，涉及 24 个任务、12 个领域和 4 类程序性幻觉，并由 30 名人工标注者对构造结果进行验证。
• 对应三种实际使用场景：第一类是集合到集合的距离评估，用于监控一批已部署代理；第二类是对话到对话的距离评估，用于从候选对话中检索流程更接近正确范例的结果；第三类是预测对话首次偏离的轮次，面向实时防护。
• 关注对话如何展开：论文提出 FlowKL 和 FlowScore，比较对话在推进过程中的结构与轨迹，而不是只比较词义或主题。摘要显示，在对话级评估中，FlowScore 在多个编码器和基线比较中表现更好，说明语义相似并不等于流程相似。

意义与影响

程序性幻觉对客服、预约、信息收集和工具调用类代理尤其重要。单轮质量分数可能告诉我们某个回答听起来不错，却无法回答代理是否完成了必要步骤。DialFork 的价值在于把“任务有没有继续向正确方向发展”转化为独立的评估对象，也让离轨检测能够从事后复盘延伸到运行时防护。

不过，流程偏离并不总是等于失败：真实用户可能临时改变目标，代理也可能需要根据新信息调整路径。因此，基准分数更适合作为监控和诊断信号，而不是替代完整的任务成功率或人工判断。后续评估还需要关注不同语言、开放域对话以及更复杂的多代理和工具调用场景。

DialFork 以 MIT 许可证发布数据集与代码，为研究者提供了一个将“内容是否正确”和“过程是否合规”分开测量的起点。

来源：Hugging Face Daily Papers