让智能体“失忆”：长周期自动化研究如何避免越跑越慢

导语

让大语言模型持续参与研究，直觉上似乎只要增加推理次数，就能不断获得更好结果。但在长周期任务中，智能体可能反复读取越来越长的历史，重复其他智能体已经做过的尝试，甚至在仍然消耗大量 token 时停止真正的实验。由此产生的瓶颈，不只是模型能力问题，也与系统如何保存状态、如何决定下一步行动有关。

斯坦福大学团队在论文《Stateless Language Agents: Scaling Long-Horizon Automated Research》中提出 Stateless Language Agents（SLA），核心思路可以概括为“有状态的搜索，加无状态的智能体”。

核心方法

• 把持久状态移出对话：候选解、实验结果和搜索方向由运行框架统一保存。单个智能体每次被调用时都不会携带上一轮对话，而是获得一次新构建的上下文。
• 让上下文成为系统设计项：框架可针对不同角色筛选信息，避免所有智能体都被完整历史淹没。这样，智能体看到什么不再由不断增长的聊天记录决定。
• 分离规划与执行：SLA 设置一个无状态 Advisor，读取框架汇总的证据，判断不同搜索方向的进展，并为并行 Workers 分配具体实验。Workers 则围绕任务执行尝试并返回可测量结果。
• 用长预算暴露系统问题：论文没有只依赖容易饱和的短评测，而是在软件工程、内核优化和算法设计任务上，将预算扩大到最高十亿 token，并与三个近期框架比较。

结果与意义

论文摘要显示，SLA 在三个任务上都取得了最好的最终结果；在内核优化任务中，它用少于最强基线最终性能所需 token 的 16% 达到相同水平，也就是节省超过 84% 的 token。消融实验还表明，聚焦上下文和明确任务分配各自都能推动进展，完整运行时可能产生叠加效果。Advisor 的 token 消耗低于总量的 0.6%，说明集中式规划并未成为主要成本来源。

这一工作的重要启示，是不要把“记住更多历史”直接等同于更强的研究能力。对于需要持续试错的任务，外部状态库、角色化上下文和可验证的实验分工，可能比让单个智能体维持一段不断膨胀的对话更有效。它也提醒评测者：短预算下看似相近的智能体框架，进入长周期后可能出现完全不同的重复、停滞和成本曲线。

SLA 并不意味着智能体真的不需要记忆，而是将记忆从隐式对话迁移到显式、可管理的搜索状态中。未来自动化科研系统的竞争，或许不仅在于模型能否提出好想法，也在于系统能否准确记录证据、分配下一次实验，并持续把有限计算投入到尚未验证的方向上。

Hugging Face Daily Papers