Anthropic用AI加速造AI，为何让安全研究者感到不安

导语

AI公司一直在用更强的模型研发下一代模型，但Anthropic与独立研究机构METR的最新合作，把这种变化置于了更直接的审视之下。METR经过11周调查后认为，Anthropic的模型进步速度大约是去年的两倍。更值得关注的是，推动加速的主要因素似乎不是单纯增加训练计算资源，而是AI开始更深地参与研究与开发过程。

核心要点

• 研发进度明显提速。 METR的基准评估显示，Anthropic在过去一年取得的进展大致相当于此前两年的历史进步。研究者表示，他们有信心认为，这种变化不能主要归因于训练算力扩大。
• AI对研究人员的帮助快速增加。 根据Anthropic内部员工的非正式调查，使用公司最强内部模型的员工，平均自报工作效率约为不使用AI时的12倍。这一数字来自员工反馈，并非对所有岗位的统一实验测量，因此应谨慎解读。
• 人机协作仍是主流。 目前的加速主要来自AI辅助人类研究者，而非模型完全自主完成研发。不过，METR观察到，未来自主贡献可能占据更大比例，并没有发现明确的减速迹象或瓶颈。
• 更先进的模型尚未公开。 在过去半年，Anthropic已经完成训练三款内部模型，分别在7月、8月至9月以及9月至10月完成。它们仍未向公众发布，因此外界无法直接复现许多相关结果。
• 报告证据被大幅删节。 Anthropic允许METR查阅部分内部资料，但也拥有对公开版本进行删改的权力。METR称，约100页的完整报告中，许多最有信息量的证据未能公开，部分数据请求也遭拒绝。

意义与影响

这份报告最重要的意义，不是证明AI已经能够完全自主改进自己，而是显示“AI帮助人类研发AI”可能正在形成可观的反馈循环：模型更强，研究人员效率提高；研发速度加快，又可能推动更强模型更快出现。如果这一循环持续，传统依靠扩大算力或延长训练周期来预测进展的方法，可能会越来越不够用。

这也构成了Anthropic面临的核心矛盾。公司长期强调前沿AI的安全风险，首席执行官Dario Amodei也曾公开呼吁放慢开发速度；但公司自身正在积极使用AI提升研发效率。对安全研究者而言，问题并非企业是否应该使用AI，而是当加速机制缺乏透明度、外部评估又无法完整核验时，社会是否有足够能力识别风险并及时反应。

Anthropic解释称，删节是出于商业机密和安全考虑，公开过多细节可能为竞争对手提供更快发展的路线图。这个理由并非没有道理，但它也意味着公众必须更多依赖METR的判断，而不是直接检查证据。Anthropic表示将另行发布关于AI进展速度的报告，并公布新的安全措施。后续真正关键的，不只是模型能力增长了多少，还包括公司能否提供足够透明、可重复和独立的评估机制。

来源：The Verge AI