OpenAI安全员工离职发声：AI行业需要“核电站级”防护

导语

一名曾经负责OpenAI重大模型发布安全报告的员工，正在离职后公开质疑这家行业领先公司的安全文化。David Robinson本周离开OpenAI，并在《大西洋月刊》发表文章，称AI行业的组织文化已经“失灵”。他的发声并非孤立事件：近来，多名来自OpenAI、Anthropic和Google DeepMind的研究人员或安全工作人员离职后，对前沿AI可能带来的风险提出警告。

核心要点

• Robinson认为，AI行业的问题不只是缺少某一条监管规则，而是整个开发方式过度依赖信心、速度和持续扩张。
• 他批评硅谷长期奉行“极度自信”和“永不停歇的冲刺”，在追求更大、更强模型时，容易忽视尚未解决的问题。
• 他主张前沿实验室借鉴核电站和繁忙机场的安全理念，采用多层冗余、严格流程和更充分的规划，让单次、不可避免的人为失误不至于演变成灾难。
• 近期离开大型AI公司的安全人士不断增加，使这场关于行业治理和风险控制的讨论更加公开化。

为什么这次发声值得关注

Robinson的特殊之处在于，他并不是局外观察者，而是曾参与模型发布安全评估的人。这样的经历并不能自动证明其判断一定正确，但能帮助外界理解前沿模型安全工作所处的内部环境。与此同时，外界对“员工参与构建系统，离职后才公开警告”的现象难免感到复杂。The Verge也指出，这种质疑不应直接成为忽略警告的理由。

更深层的争议在于，传统互联网公司的快速试错逻辑，是否适合能力和影响范围都不断扩大的基础模型。若模型被广泛部署，风险可能不再局限于单个产品故障，而会涉及多个用户、组织和社会系统。对这类系统而言，发布前测试、独立审查、故障隔离和应急响应，可能需要被视为基础设施，而不是研发流程中的附加环节。

意义与影响

Robinson的观点并未给出一套完整政策方案，但提出了清晰的方向：AI实验室需要降低“只要继续迭代就能解决问题”的乐观倾向，并建立更接近高风险基础设施的责任机制。随着更多安全人员公开离职原因，企业如何保护内部异议、披露风险并证明安全措施有效，将成为竞争力之外的核心治理问题。

这并不意味着所有前沿AI项目都应停止，而是意味着速度不能成为唯一指标。行业能否把安全报告从发布配套材料，提升为影响研发节奏和上线决策的实质性机制，或许才是这场争论真正的检验标准。

来源：The Verge AI