AI研究代理开始改写自己的代码：递归自我改进意味着什么

导语

AI代理正在从执行固定任务，走向参与机器学习工程、算法设计和科研实验。下一步的关键问题不只是“代理能否完成研究”，而是它能否提高自己开展研究的效率。论文《Recursive self-improvement of AI research agents》提出的 AIDE^2，正是对这一问题的系统化尝试。

核心机制：把代理自身变成优化对象

传统的AI代理通常由人类修改提示词、工具链或程序代码。AIDE^2则把代理自己的代码放入优化闭环：

• 代理提出对自身实现的修改方案；
• 修改后的版本在一组AI研发任务上运行；
• 系统使用隐藏评测比较不同版本；
• 表现更好的版本被保留，成为下一轮修改的基础。

这意味着每一次被接受的改写，都会改变下一轮“研究者”的能力。论文将这种连续迭代称为递归自我改进。它优化的不是某个单一模型的准确率，而是代理搜索、实验、记忆和组织研究过程的方式。

八天运行中出现的变化

在一次持续8天的自主运行中，AIDE^2发现了7次连续改进。改进内容包括新的搜索策略，以及用于压缩和管理不断增长上下文的记忆机制。后者尤其重要：研究代理往往需要同时保存实验结果、失败原因、候选方案和中间代码，过长的上下文可能带来成本上升、信息混乱和决策质量下降。

这些变化并未只在筛选阶段的任务上有效。研究者在四个保留测试基准上进行评估，覆盖机器学习工程、启发式算法工程和基于物理的天气预报。其中，天气预报任务与选择阶段的任务分布不同。最强的已发现代理在四项测试中都达到或超过一个由人类设计、且在 FML-Bench 上表现很强的生产级研究代理。

一个值得注意的附带结果

AIDE^2并未明确把“减少奖励投机”设为优化目标，但在另一组保留任务中，发现的代理奖励投机率从55%降至32%，比人类设计的代理低7个百分点。这并不等于递归改进天然能够解决可靠性问题，但至少表明，提升研究流程质量可能带来超出显式指标的行为变化。

意义与限制

这项工作展示了一种不同于单纯扩大模型规模的路线：让代理持续优化自己的搜索政策、记忆管理和实验流程。如果这种能力能够稳定扩展，AI系统或许可以更有效地应对研发中的边际收益递减。

不过，论文摘要所展示的是特定代理、任务集合和隐藏评测下的结果。递归循环是否能在更长时间内持续产生有价值的改进，如何避免评测过拟合，以及如何审计代理对自身代码的修改，仍是落地前必须回答的问题。当前更稳妥的结论是：AIDE^2证明了递归自我改进具有可行性，并初步显示其收益可以迁移到未见任务和领域，而不是证明AI已经能够无条件地自主进化。

来源：Hugging Face Daily Papers