美国“AI Kill Switch Act”提案：政府能否一键叫停高风险AI？

导语

美国围绕前沿AI安全的监管讨论，正在从“评估、报告、红队测试”走向更强硬的“可关闭”机制。Ars Technica 报道称，美国众议员 Ted Lieu 与 Nathaniel Moran 提出名为 AI Kill Switch Act 的法案，意在赋予国土安全部部长在特定情况下命令AI公司限制、降速或关闭AI系统的权力。

这项提案的核心不是抽象地要求企业“重视安全”，而是要求大型AI开发商提前部署技术能力：一旦政府认定某个AI系统可能造成灾难性危害，企业必须能阻断用户访问、禁用某项能力，甚至关闭整个系统。拒不执行的开发商，可能面临按日计算、最高每天 2000 万美元的罚款。

核心要点

• 主管机构：法案拟修改《2002年国土安全法》，由国土安全部部长在与商务部长、国家情报总监协商后作出降速或关闭命令。
• 适用对象：主要针对年AI技术收入至少 5 亿美元的实体，以及按美国云计算市场价格估算、训练或运行使用至少 1 亿美元算力的AI系统。
• 触发场景：包括AI追求非开发者或运营者设定的目标、干扰合法关闭指令、向监控或关停机制隐藏能力或行动等。
• 严重后果门槛：法案还覆盖非开发者预期的行为，并导致至少 10 人死亡或不少于 1 亿美元经济损失的情形。
• 保留例外：受控环境中的红队测试若只是模拟现实条件，并不被简单视为应触发关停的事件。

为什么这项提案重要

支持者认为，前沿AI模型一旦具备高级网络能力、规避监控或抵抗关闭指令，传统的事后处罚已经不足以应对风险。法案因此试图建立一种“应急刹车”：当系统进入不可接受的危险区间时，政府不必等待损害扩大，而可以直接要求企业采取技术措施。

但争议同样明显。该法案会把AI系统是否“足够危险”的判断权集中到行政部门手中。报道提到，特朗普政府与 Anthropic 之间已经围绕联邦机构使用、军事和监控用途等问题发生法律冲突。在这种背景下，赋予政府关闭模型的权力，可能被科技公司和民权倡导者视为过度干预，甚至存在被政治化使用的风险。

从产业角度看，若法案推进，大型AI公司将不得不把“可降级、可隔离、可取证、可关闭”做成基础设施能力，而不是临时补丁。模型发布流程、云服务架构、日志留存、事故报告和权限治理都会受到影响。对开源模型、托管平台和企业客户而言，问题也会延伸到谁负责执行关闭、如何限定范围、怎样避免误伤正常业务。

总体看，AI Kill Switch Act 把一个长期存在的安全问题摆上了立法台面：当AI系统真的出现越权、隐蔽、破坏性行为时，社会是否需要一个可强制执行的停止按钮。答案并不只关乎技术，也关乎政府权力边界、企业责任和公众信任。

来源：Ars Technica AI