Heartbeat Thinking：让语音智能体在“听”的同时完成准备工作

导语

实时语音交互的一个常见问题是：用户已经说出了足以触发部分行动的信息，智能体却仍要等到整句话结束，甚至等到整段请求完成后才开始调用工具。对查询、检索或多步骤任务而言，这段“等待用户说完”的时间本可以被用来准备工作，但现有推测式执行机制并不总能安全地利用它。

论文《Heartbeat Thinking》关注的正是这一矛盾。它试图让语音智能体在持续监听的同时推进推理和工具调用，并减少因新语音片段到来而造成的无效中断。

核心要点

• 避免绑定语音更新节奏。 一些做法以语音分块为边界生成，或在输入更新时直接中断当前生成。如果工具调用的参数尚未完整形成，调用就可能被截断，之前的计算也难以复用。
• 采用“心跳式”新调用。 Heartbeat Thinking 不要求当前 Thinker 在每次输入变化时重启。正在运行的 Thinker 和已经派发的工具可以继续完成；与此同时，系统周期性地启动新的 Thinker，读取最新的部分转写。
• 共享推理与工具结果。 新的 Thinker 不只看到最新文本，还能访问一份共享记录，其中保存已经完成的推理和工具结果。这样，后续调用可以补齐先前缺失的参数，也能在前置结果返回后启动依赖它的下一步工具任务。
• 把监听时间转成准备时间。 这种设计使准备过程可以跨越多次语音更新持续推进，而不是每次都从头开始。最终回答阶段因此有机会直接复用已经完成的检索或工具工作。

实验结果与边界

作者在 SpeechFCEval、FDBench v3 和 AudioCRAG 上，将该方法与 SHANKS 风格的窗口式基线进行比较。结果显示，Heartbeat Thinking 在不同基准上提升了推测式工具覆盖率或检索复用程度，但对最终任务质量的影响并不完全一致，说明“提前做更多工作”并不自动等同于最终答案一定更好。

在 FDBench v3 上，论文报告工具覆盖率提高 16 个百分点，最终响应平均延迟降低 36.4%。这些结果支持了一个实用判断：语音智能体的性能瓶颈不只在模型生成速度，也在于系统如何管理输入更新、并发任务和中间结果。

意义与影响

Heartbeat Thinking 的价值主要体现在调度层，而不是提出一个新的基础模型。它把“新输入到来”从必须取消旧任务的信号，改造成启动补充思考的机会。对于需要检索、查询外部服务或执行多步工具链的语音助手，这种机制可能减少重复计算，并降低用户说完话后的空等时间。

当然，推测执行也带来资源消耗、错误调用和结果冲突等工程问题。实际系统仍需决定何时触发新的 Thinker、哪些工具调用值得提前执行，以及如何处理过时的部分转写。Heartbeat Thinking 提供的是一种可复用的并发控制思路：在保留已完成工作的同时，让智能体随着语音输入逐步收敛到最终任务。

来源：Hugging Face Daily Papers