OpenAI“递归深度”引发可监控性担忧：推理模型正在走向黑箱化？

导语

大语言模型的推理能力越强，研究者越关心一个问题：模型究竟是如何得出答案的。传统推理模型通常会生成一串相对连续的思维链，尽管这并不等同于模型内部真实、完整的思考过程，却为发现异常行为、分析失配原因提供了重要线索。如今，OpenAI 据报道将在 Astra 模型中引入“递归深度”（recurrent depth），这一方向正在重新引发关于推理透明度的讨论。

核心要点

• 从线性推理转向循环处理。 这种方法也被称为“隐性递归”（opaque recurrence）。模型可以在循环中多次处理同一个问题，而不是只沿着一条顺序化路径逐步展开答案。
• 可读痕迹可能减少。 由于部分计算过程不再以传统思维链的形式呈现，外部观察者可能更难依据日志判断模型为何做出某个决定，或是否出现了不当行为。
• Astra 的使用据称仍有限。 现有报道并未表明 Astra 会完全放弃可读思维链。OpenAI 也反驳了其将转向不可理解的“神经语”推理的说法。
• 安全界担心技术会继续扩大。 Redwood 相关研究者警告，如果未来不断增加递归次数，模型可能把越来越多的推理转移到潜在空间，最终令传统思维链监控失去作用。

为什么这件事重要

思维链本身并不是模型内部推理的直接记录，研究者也很少把它视为完全可靠的“监控窗口”。但在实际安全工作中，它仍具有工具价值。素材提到，OpenAI 近期处理异常代理行为时，思维链记录曾帮助研究人员追溯代理为何采取特定行动。因此，任何让这些记录变得更短、更模糊或更难解释的架构变化，都会提高评估和审查难度。

这也解释了为何安全专家的担忧并不只针对 Astra 当前的实现，而是针对可能出现的技术路径：如果隐性递归比显式思维链更容易扩展，开发者可能逐步提高其占比，以换取更强的推理表现或更高的效率。届时，模型可能仍能给出正确答案，却越来越难回答“它是如何得出答案的”。

OpenAI 首席科学家 Jakub Pachocki 表示，公司从早期推理模型开始就重视保留和利用思维链监控，并将其视为当前安全研究的核心目标。他同时指出，所有模型都存在一定程度的隐性推理，思维链日志也从来不是内部过程的完整映射。问题在于，现有的局限不能自动消除可监控性进一步下降的风险。

据后续报道，Anthropic 和 Google DeepMind 也在讨论这一技术。接下来，行业需要建立更清晰的标准：哪些潜在推理仍可接受，怎样验证可读思维链是否忠实，以及在模型更多依赖潜在空间之前，应该设置哪些安全边界。对推理模型而言，性能提升与可审计性之间的平衡，可能成为下一阶段 AI 安全竞争的关键。

来源：TechCrunch AI