AGI扩展的下一步：让System-1决定System-2何时出手

导语

当前大模型走向更强推理，主流路径仍是扩大模型规模、训练数据和计算预算，并让模型进行更长链路的思考或调用更多智能体。这些方法能够提升能力，却也带来显著的推理成本。题为《Does Scaling Toward AGI Depend on What System-1 Lets System-2 Execute?》的研究提出了另一种视角：问题不只是System-2能执行多少计算，还包括哪些计算值得被执行。

核心思路：先筛选，再调用重型推理

研究借用了System-1与System-2的区分。System-2代表资源密集型的执行与推理模块，负责真正完成候选操作；System-1则是轻量级、具备语义感知能力的预测器，先估计一个候选交互可能带来的效用及其成本。

整个机制被描述为“预测—门控—执行—更新”循环：

• 预测：System-1评估候选思路、动作、工具调用或其他交互的潜在价值；
• 门控：系统依据自适应阈值，只放行达到条件的候选项；
• 执行：System-2对被选中的交互进行高成本推理或操作；
• 更新：执行结果反过来用于改进System-1的判断。

这一框架并不限定于单一场景。论文讨论了训练、测试时推理、自适应决策和智能体工具使用等任务，具体的“效用”和“成本”则由应用目标定义。例如，在工具调用中，System-1可以优先判断某个调用是否可能改变答案；在长链推理中，它也可以尝试跳过预计贡献有限的中间步骤。

用“有用交互密度”重新理解扩展

研究提出一个关键变量：有用交互密度ρ_u，即所有候选交互中真正与任务效用相关的部分。在理想筛选、且每次执行成本相同的情况下，System-2需要承担的执行计算量，理论上可以接近原来的1/ρ_u。若不同操作的成本不同，则需要采用成本加权的密度。

这并不意味着实际系统一定能获得同等比例的节省。System-1存在预测错误，系统还必须保留一定探索空间，并且训练分布与部署环境可能发生偏移。这些因素都会带来漏选、误选或额外开销。论文进一步给出了选择遗憾与预测误差、效用差距之间的界限，说明筛选器的质量和候选项之间的效用边界，是决定收益的重要条件。

意义与局限

这项工作的价值主要在于提供一种系统设计假设，而不是公布某个新的大模型或单一基准上的性能纪录。它把“总计算量”与“产生有效信息的计算量”区分开来，并将ρ_u视为可能被测量和优化的扩展效率坐标。

对推理服务和智能体系统而言，这意味着未来的优化重点可能从单纯压缩System-2，转向共同设计System-1与System-2：前者要足够便宜，避免筛选成本抵消节省；同时又要足够可靠，能够识别低概率但高价值的动作。真正落地仍需在不同任务中测量效用定义、误判代价、探索策略和分布变化。换言之，论文给出的不是“减少计算”的无条件承诺，而是一条关于如何把计算集中到更有价值交互上的研究路线。

来源：Hugging Face Daily Papers