返回文章列表
记忆与上下文

Agent 记忆问题不只是检索:ACM 把上下文管理变成生命周期工程

阅读约 3 分钟

导语

生产级 AI Agent 的一个常见失败模式,并不是模型“不会想”,而是它不知道该把什么放进当前上下文。会话历史越滚越长,系统提示词和工具说明越来越大,工具调用结果动辄占据大量 token。最后,Agent 一边为不断膨胀的上下文付费,一边仍可能忘记关键事实。

这篇论文把这个问题命名为 Agentic Context Management(ACM,智能体上下文管理)。它的核心判断是:Agent 记忆不应只被理解为“存储与检索”,而应被视为贯穿系统设计、数据摄取、范围控制、预测与压缩的生命周期工程。

核心要点

  • 失败根源从“推理”转向“上下文”:作者认为,许多生产事故不是模型能力不足,而是上下文窗口中混入了太多无关历史、冗长工具输出和未整理信息,导致该记住的没出现,该忽略的占据预算。
  • ACM 包含五个原语:论文将上下文管理拆为 architecting、ingesting、scoping、anticipating、compacting & consolidation,分别对应架构设计、信息摄取、作用域选择、需求预判以及压缩整合。
  • 不是单用户记忆,而是组织级作用域:在严肃生产场景中,记忆往往跨越用户、客户、团队或组织层级。哪些信息可被共享、哪些必须隔离、哪些应被遗忘,都是系统设计问题。
  • 成本曲线是关键动机:如果每轮都完整追加历史,上下文 token 成本会随对话长度快速累积;粗糙摘要能降低成本,但可能带来准确率断崖。作者主张,只有经过验证的压缩,才可能在保持信息保真度的同时把成本控制在线性水平。
  • 参考实现仍需更复杂场景验证:论文提到 Maximem Synap 作为参考实现,并报告了 LongMemEval 92% 和 LoCoMo 93.2% 的结果。不过社区讨论也指出,真实工具调用负载下的表现、管理层自身 token 开销、并行工具输出的实时取舍,仍是值得进一步测试的问题。

意义与影响

这篇论文的价值在于把“记忆”从一个组件问题提升为架构问题。过去很多团队会默认把记忆交给向量数据库、RAG 或摘要模块,但 Agent 真正需要的是一套持续决策机制:什么值得写入、以什么结构写入、当前任务该取回什么、未来几步可能需要什么、压缩后如何验证没有丢掉关键事实。

这也解释了为什么更大的上下文窗口并不能自动解决记忆问题。窗口变大可以推迟爆炸,却不会自动区分重要与噪声;工具输出越多,系统越需要主动整理和遗忘。对于正在部署企业 Agent 的团队,ACM 提供了一个更贴近工程现实的框架:把上下文当作预算、权限、生命周期和质量控制共同作用的对象。

当然,论文中的参考实现与评测结果还需要在更开放、更高并发、更重工具调用的环境中被检验。但“上下文管理是 Agent 基础设施”这一判断,已经很难被忽视。

来源:Hugging Face Daily Papers

评论

正在确认登录状态……

正在加载评论……

相关文章

CCTest · Blog
RecGPT-V3:让推荐系统从“算历史”走向“有记忆的理解”
记忆与上下文
cctest.ai
记忆与上下文

RecGPT-V3:让推荐系统从“算历史”走向“有记忆的理解”

RecGPT-V3 试图把大语言模型变成工业推荐系统中的“智能大脑”:既记住用户长期偏好,也能把自然语言意图更直接地映射到商品空间。其在淘宝首页“猜你喜欢”场景的 A/B 测试中带来 GMV +3.97% 和服务资源消耗下降 52.4%。

阅读全文