Jev-Mem：让系统一控制AI代理记忆，降低检索成本

导语

长周期AI代理不仅需要调用工具和规划任务，还必须记住用户偏好、历史事件以及不同信息之间的关系。问题在于，许多代理记忆系统把记忆写入、整理和检索都交给自回归大语言模型完成。这样做虽然灵活，却会让生成式推理进入记忆操作的关键路径，带来额外延迟和成本。

Jev-Mem提出了一种不同的架构：借鉴“系统一/系统二”的认知分工，把高频、低复杂度的记忆管理决策交给专门的系统一控制器，而把需要深层语义理解的工作留给系统二。

三层架构如何协作

Jev-Mem主要由三个部分组成：

• 系统一控制平面：在记忆构建阶段负责判断记忆类型，并组织不同记忆之间的关系；在查询阶段负责路由问题、分配检索预算、执行图遍历、评估候选结果，并决定何时停止检索。
• 多关系记忆平面：不只是保存孤立的文本片段，还以结构化方式记录记忆及其关系，为后续关联检索提供基础。
• 系统二推理平面：仅在问题需要复杂推理或答案综合时被调用，避免让大模型参与每一次简单的记忆管理动作。

这种设计的关键并非完全排除大语言模型，而是重新安排它的介入位置。系统一承担更频繁、更规则化的控制任务，系统二则集中处理真正需要语言推理的环节。对于代理系统而言，这相当于把“如何找信息”和“如何理解信息”部分分离。

效果与意义

在LoCoMo评测中，Jev-Mem的整体LLM-as-a-Judge得分为0.777，相比最强基线相对提升11.0%。效率方面，记忆构建耗时降至158秒，据论文摘要称，相比最快的竞争系统实现6.6倍加速；平均查询延迟为0.93秒，降低36.7%。这些结果说明，记忆系统的性能优化不一定只能依靠更强的生成模型，也可以通过减少不必要的生成调用和改善控制流程实现。

更值得关注的是，Jev-Mem将代理记忆从“向量库加一次检索”推进到带有类型、关系、预算和停止策略的动态控制系统。对于需要长期运行的个人助理、研究代理或任务型工作流，这种设计可能有助于在记忆规模增长时控制成本。不过，现有材料主要展示了LoCoMo上的总体结果，尚不足以判断该架构在不同领域、不同模型和更大规模记忆场景下的稳定性。项目已公开代码并提供交互式Hugging Face Space，后续复现和扩展将有助于检验其实际适用范围。

来源：Hugging Face Daily Papers