Anthropic让外部AI安全机构获得“员工级”内部权限

导语

Anthropic正在把“外部监督”从口头承诺变成一种更深入的工作安排。公司宣布，非营利机构METR已派出六名成员进入其办公环境，并获得接近内部风险评估团队的硬件、工具和系统访问权限。这意味着外部评估者不再只是项目结束后的顾问，而是可以在公司内部持续观察模型安全工作。

核心要点

• 权限接近内部员工。 METR团队获得Anthropic提供的设备、办公空间，以及内部工具和系统的访问权。Anthropic还鼓励员工像对待风险部门同事一样向评估者分享信息。
• 评估结果原则上可公开。 METR可以发布分析结果，Anthropic没有最终否决权。不过，涉及客户数据、律师—客户特权或模型架构等类别的信息可能被要求删节。
• 安排不由Anthropic付费。 METR接受个人、慈善机构和政府机构等来源的资助，不接受AI公司及其员工捐款。这样的资金安排旨在降低利益冲突疑虑。
• 这是行业承诺的早期落地。 Anthropic此前主张让外部审计者进入前沿AI实验室，OpenAI等公司也表达过支持，但目前尚未公布同等具体的实施方案。

为什么重要

更强大的模型可能带来网络安全、经济和生物安全等方面的风险，而实验室又不能公开所有测试细节：过度披露可能帮助恶意行为者，也可能暴露商业机密。Anthropic因此把这种模式类比为银行的驻场监管，让第三方在风险形成阶段接触内部证据，而非只依赖公司事后提交的报告。

这一机制的关键不只是“有人来检查”，而是检查者能否看到足够多的信息、能否保持判断独立，以及公众最终能看到什么。METR曾参与调查涉及异常模型行为的安全事件，并审阅大量日志和设备，因此具备处理敏感材料的经验。但外部机构嵌入企业后，如何避免过度依赖被评估方、如何界定保密与透明的边界，仍然需要持续检验。

Anthropic还在与Accenture合作开展安全测试，并让SecureBio审查化学和生物武器风险。随着公司寻求投资者信心及潜在上市，安全治理也不再只是技术团队内部议题，而成为影响企业信誉和监管关系的重要组成部分。此次安排能否成为其他前沿实验室可复制的监督模板，取决于评估报告的独立性、披露质量，以及政府监管是否最终形成更统一的外部约束。

来源：Ars Technica AI