Recursa:让基础模型在新领域中递归自我改进
导语
基础模型进入陌生领域时,真正的瓶颈往往不是生成能力,而是缺少领域知识、任务规范和可靠反馈。现实中的新领域通常没有足够的专家示范数据,也未必存在一个更强的教师模型来负责纠错。来自阿里巴巴团队的论文提出 Recursa,尝试让模型依靠自身执行任务的经验,逐步构建并改进一套可复用的领域知识系统。
Recursa 的核心思路
Recursa 并不把适应过程简单理解为继续训练模型参数,而是建立一个持续更新的“知识仓库”。其中主要保存四类信息:
- 领域技能:解决特定问题时需要掌握的知识或操作方式。
- 使用指令:说明什么情况下应调用某项技能,减少知识与任务之间的错配。
- 任务记忆:记录过去执行任务时的过程与结果。
- 改进反思:总结当前做法存在的问题,以及下一轮可以调整的方向。
系统首先从目标领域的材料中提取和组织初始知识,并基于这些材料生成练习任务。这一阶段主要弥补模型在新领域中的知识缺口。随后,Recursa 让多个并行学习者分别执行任务、分析结果并提出局部改进,再对这些候选改进进行验证,最后将可信内容合并回知识仓库。
这一机制的关键不只是“记住答案”,而是同时积累技能、调用条件和失败反思。随着任务循环进行,仓库中的知识能够反过来影响后续任务执行,模型也在改进学习流程本身。这构成了 Recursa 所强调的递归自我改进。
实验结果与意义
在 Harvey LAB 的 Firm Knowledge 基准上,Recursa 将 DeepSeek-V4.1-Flash 的留出测试任务全通过率从 30.0% 提升至 55.0%;使用 Qwen3.8-Flash 时,则从 35.0% 提升至 46.0%。这些结果表明,在没有人工专家或更强教师模型直接提供监督的条件下,模型仍可以借助结构化记忆、并行尝试和改进验证获得更好的领域适应效果。
从系统设计角度看,Recursa 将“模型能力”和“外部可演化知识”分开处理:基础模型负责理解、执行与反思,知识仓库则承担长期积累与复用。这种方式可能比单纯依赖一次性上下文更适合需要持续工作的领域,也为智能体系统提供了一种从任务经验中形成工作方法的路径。
不过,素材目前主要展示了单一基准上的结果,尚不足以证明递归改进在所有领域都稳定有效。自生成经验如何避免错误累积、候选改进如何可靠验证,以及知识仓库规模扩大后能否保持可控,仍是这类系统走向实际应用时需要进一步观察的问题。
评论
正在确认登录状态……
正在加载评论……