AI要不要“踩刹车”：科技公司与政界陷入路线之争

导语

前沿人工智能的发展速度，是否已经快到需要“踩刹车”？Anthropic CEO Dario Amodei近日发表长文，提出“让前沿发展更有节奏”，由此引发科技公司高管和美国政界人士密集回应。支持者认为，模型能力越强，越需要在部署前留出安全验证和治理时间；反对者则担心，放慢步伐会让美国在与中国的技术竞争中失去优势。

这场争论的关键，并不是要不要彻底停止训练模型，而是如何降低失控、滥用和权力过度集中的风险。

三项核心主张

Amodei提出了三层方案：

• 引入嵌入企业流程的第三方评估机构，核验安全承诺、评估模型表现，并报告重大事件；
• 由民主国家的前沿AI公司协调安全标准与发展边界；
• 在可行范围内，推动民主政府与威权政府就AI发展的节奏进行全球协调。

他强调，“放慢”不等于停止模型训练或技术进步，而是给企业更多时间完成对齐、保护措施和外部验证。Anthropic表示将先单方面落实第三方评估这一方向。

科技公司的共同点与分歧

OpenAI CEO Sam Altman表示认同“放慢前沿发展”，并支持独立评估及联邦层面的统一安全要求。他同时提醒，AI可能带来两类严重后果：人类失去对未来的控制，以及权力过度集中。Google DeepMind联合创始人Demis Hassabis认为Amodei指出了正确方向，但具体制度仍需完善；埃隆·马斯克也直接表示支持。

这些表态显示，部分行业领袖已经接受更严格的安全治理框架。不过，他们支持的更像是“延缓速度、增加检查”，而非暂停技术路线。与此同时，前白宫AI与加密事务负责人David Sacks虽然表示可以推进，但质疑企业要求政府监管是否完全出于利他动机。Meta前首席AI科学家Yann LeCun则批评这类安全警告，认为类似担忧过去已被证明过度。

政界的安全与竞争拉锯

特朗普明确反对AI发展放缓，强调美国必须赢得AI竞争，并将现有行政和执法权力视为足够的控制手段。副总统JD Vance则对企业主动请求监管表示怀疑，认为这可能成为限制竞争的“特洛伊木马”。众议院议长Mike Johnson采取了更折中的态度：不能实行暂停，因为中国可能追上美国，但也必须确保模型安全。

另一边，伯尼·桑德斯、前副总统Kamala Harris和前交通部长Pete Buttigieg支持更强的公共约束。Buttigieg还主张为失控AI设置紧急关闭机制；前FTC主席Lina Khan则提醒，现有法律已经可以处理危险、未经充分验证或存在缺陷的产品，不能因为讨论新制度而忽视既有执法工具。

影响与观察

这场公开交锋至少释放出三个信号。第一，前沿AI安全已从企业伦理议题变成国家政策议题。第二，“监管”不再只有放开或暂停两种选项，第三方评估、共享标准和事件报告等中间机制，可能成为现实政策的切入口。第三，中美竞争正在深刻影响安全讨论：任何放慢措施，都必须回答如何避免把技术优势拱手让人。

真正困难之处在于，企业自律缺乏统一验证机制，政府监管又可能被竞争逻辑牵引。未来的核心问题，或许不是谁在口头上支持“踩刹车”，而是谁能建立透明、可执行且不轻易被竞争压力推翻的安全规则。

来源：The Verge AI