加州推动前沿 AI“终止开关”，试图填补联邦监管空白

导语

在美国联邦层面的 AI 立法迟迟难有实质进展之际，加州再次尝试把自己定位为监管先行者。州长加文·纽森签署的新行政命令，要求州政府召集专家，研究如何进一步强化 AI 安全法规，其中最受关注的提议，是要求前沿模型具备能够被定期验证的“终止开关”。

核心要点

• 两个月内提出建议：行政命令要求专家小组研究如何通过州法加强 AI 安全措施，并在两个月内提交建议。
• 引入独立验证机制：加州希望探讨是否要求 AI 公司让独立验证团队进驻，开展定期审计，同时让透明度报告和风险评估接受统一的独立审查标准。
• 评估“终止开关”可行性：相关机制不仅要存在，还应定期验证在紧急情况下是否真正有效。素材没有说明这一开关的具体技术实现或触发权限。
• 扩大事故报告范围：企业可能被要求把“失去控制事件”作为重大安全事故报告，包括报道中提及的 OpenAI 对 Hugging Face 的攻击事件。
• 加快既有法律落地：州政府还要求相关机构加速执行两项近期签署的法律，包括建立独立验证人员评估 AI 安全的框架，以及设立 AI 审计师登记制度。

为什么现在行动

这项安排与美国国会的政治节奏直接相关。近期，围绕先进 AI 可能带来极端风险的警告引发了国会层面的讨论，但众议院休会至 11 月，参议院又临近中期选举，实质性联邦立法短期内推进困难。纽森因此要求国会和特朗普政府参考加州框架，并将其作为全国监管的起点，而不是上限。

意义与影响

“终止开关”这个说法容易让人联想到一个简单的紧急按钮，但真正落地将涉及权限控制、独立验证、供应商配合和跨境部署等复杂问题。若开关由模型开发者单方面控制，其独立性和可信度可能受到质疑；若由监管者或第三方介入，又会带来责任边界、误触发和商业机密保护等问题。

更现实的影响，可能首先来自审计和报告制度。独立评估、统一风险标准以及对失控事件的强制披露，有望让监管机构获得更可比的信息，也可能增加前沿模型公司的合规成本。加州若继续通过行政行动或特别立法推进，这套制度还可能影响其他州和联邦层面的政策设计。

不过，目前行政命令只是启动评估和政策建议流程，并不等于加州已经正式要求所有前沿模型安装“终止开关”。最终规则能否通过、适用哪些模型，以及如何处理创新速度与安全审查之间的冲突，仍取决于后续专家建议和立法行动。

来源：The Verge AI