HybridAgent：让智能体在潜空间思考、用语言与世界交互

导语

当前的大语言模型智能体通常把“思考”和“行动”都编码成文本：模型需要逐 token 生成推理过程，才能搜索、运行代码或调用外部工具。这样做便于观察和调试，却也带来较高的 token 消耗与推理延迟。另一条路线是让模型在潜空间中进行推理，但潜在状态通常缺乏原生工具访问能力，也不容易被人直接检查。

Hugging Face Daily Papers 收录的 Hybrid Reasoning Agents 试图把两种路线合并起来：智能体可以在潜空间中完成更紧凑的内部推理，在需要与外部环境沟通时切换到文本模式，并在一次连续的生成流程中完成多轮任务。

核心要点

• 动态切换两种模式：HybridAgent不是把潜空间推理和文本推理做成彼此独立的模块，而是允许模型在生成过程中来回切换。潜空间适合处理内部思考，文本则继续承担工具调用、环境交互和最终表达。
• HybridLink连接模型状态：论文提出轻量级的 HybridLink，用于协调文本与潜在模式之间的转换，使既有语言模型能够接入混合推理流程。
• 连续工作记忆：系统通过工作记忆保存跨多轮交互的混合上下文，目标是在不丢失信息的情况下，衔接潜在思考、文本行动和工具反馈。
• 兼顾效率与可检查性：作者强调，潜在思考并非完全不可见。通过统一的混合流程，智能体仍能保留可读的推理与行动轨迹，同时减少不必要的文本 token。
• 专门的后训练方法：HybridSFT先训练基础模型协调 HybridLink 与工具集成生成；HybridRL进一步让模型学习何时使用潜空间思考、何时切换到文本并采取行动。

评估结果

论文在三个模型规模上进行实验，覆盖数学、科学、医学、搜索和智能体推理等11项基准。根据论文摘要，相比前沿大语言模型智能体及同时涵盖文本和潜空间方法的智能体框架，HybridAgent整体性能提升10.4%，token使用量减少35.5%至54.7%，推理速度提高1.8至2.6倍，成本降低2.7至3.7倍。这些结果来自论文所报告的综合评测，具体收益仍会受到模型规模、任务类型和工具流程影响。

意义与局限

HybridAgent的价值不只是“少输出一些文字”，而是重新划分了智能体内部思考和外部行动的职责：凡是无需立即影响环境的推理，可以更多留在潜空间；一旦涉及搜索、代码执行或其他工具，则切换到可执行、可记录的文本接口。这种设计有望缓解长链条任务中的延迟和成本问题，也为多轮智能体提供了更紧凑的上下文组织方式。

不过，潜空间状态如何稳定转换、如何判断一次切换是否合理，以及“可检查”能否等同于完整解释，仍是需要持续验证的问题。论文同时提供了代码和数据仓库，为复现实验及进一步研究混合推理策略提供了入口。

来源：Hugging Face Daily Papers