Hinton等人首篇RSI论文：AI研发自动化会引发智能爆炸吗？

导语

递归自我改进（RSI）正在从科幻设想变成一项需要认真评估的工程问题。由Geoffrey Hinton、Yoshua Bengio、Andrew Barto、OpenAI首席科学家Jakub Pachocki等研究者共同署名的论文《What if automating AI R&D triggers an intelligence explosion?》，讨论了一个核心问题：当AI能够参与研发下一代AI，并由更强的系统继续接管后续研发，技术进步是否会形成越来越快的反馈循环？

核心要点

• 关键不只是自动写代码。 真正意义上的AI研发自动化，还应包括提出假设、设计实验、执行训练、分析结果、定位失败原因和调整研究路线。只有这些步骤能够被长时间串联，AI才更接近“研究员”而不只是工具。
• 研发自动化正在增加。 论文引用的实验室内部信息显示，AI生成并获批的代码比例、以及AI在高层监督下承担的研发任务比例，在较短时间内明显上升。但这些指标并不等于AI已经独立完成了相应实验室的全部研究工作。
• 复制能力可能改变研发供给。 人类研究员需要多年培养，AI研究员则可以通过增加实例和推理算力快速扩张，并在底层模型升级后同步获得新能力。论文因此引入“有效研发劳动力”概念，用来衡量AI实例相当于多少人类研究资源。
• 智能爆炸仍有前提。 研究投入增加后能带来多少技术进步，即研究回报率，是反馈能否加速的关键。如果新增劳动力的收益快速递减，或者AI的改进无法明显提升下一轮研发效率，闭环就可能无法启动。

意义与限制

论文讨论的是“软件驱动的智能爆炸”：算法、训练方法、Agent流程和合成数据策略一旦验证有效，理论上可以比芯片、数据中心等硬件更快部署。不过，软件速度并不能消除现实约束。GPU数量和训练周期无法凭空增加，高质量数据也可能成为瓶颈；大量Agent还可能重复劳动、争抢实验资源。与此同时，越接近前沿，科研问题往往越难，技术进步的边际回报可能下降。

因此，论文并没有宣布智能爆炸已经发生，而是指出：AI研发自动化正在让这一问题从遥远假说变成值得提前准备的风险与治理议题。未来真正需要观察的，不是AI能否完成某个孤立任务，而是它能否稳定、可靠、持续地推动下一代AI研发，并让整个反馈链条的周期不断缩短。

来源：量子位