返回文章列表
AI 安全

中美拟建AI安全预警通道,但“赢得竞赛”叙事可能削弱互信

阅读约 3 分钟

导语

中美作为当前人工智能领域的两个主要参与者,正尝试建立一条面向AI安全风险的直接沟通渠道。美国财政部长斯科特·贝森特透露,双方讨论过一种“AI安全通知机制”:当一国的AI系统出现威胁或不可预测行为时,可以通过该渠道向另一方发出警报,并交流对共同目标的看法。

这项安排看似为全球AI治理打开了一个入口,却也暴露出中美技术竞争与安全合作之间的矛盾。美国一方面希望在前沿AI上保持领先,另一方面又希望中国分享安全信息。对于北京而言,后者是否只是限制中国技术发展的另一种政策工具,仍是一个现实疑问。

核心要点

  • 预警机制仍停留在框架层面。 据报道,该机制可能依托现有外交或政府沟通渠道,并未配备负责分析风险的技术专家。缺少专业评估人员,意味着双方收到警报后,未必能判断风险的严重程度、可信度和处置优先级。
  • 中国尚未公开认可提议。 尽管中方没有因美国总统特朗普关于“赢得AI竞赛”的强硬表态而缺席会谈,但中国目前也没有公开确认这套预警系统。沉默本身说明,政治信任仍然不足。
  • 技术竞争正在侵蚀安全对话。 美国持续加强针对中国的AI芯片和相关硬件出口限制,国会也在讨论进一步限制措施。美国司法部近期还指控中国主要AI企业窃取美国前沿实验室技术,中方对此表示反对。在这种背景下,美国倡导的全球AI标准很容易被解读为巩固自身优势的手段。
  • 真正有效的机制需要共同规则。 研究人员指出,中美至少需要就风险分类、触发通知的条件、响应流程以及定期复核方式达成一致,否则“预警通道”可能只有象征意义。

为什么合作仍有价值

即便双方对AI风险的理解并不相同,合作仍有现实基础。黑客、恐怖组织利用AI攻击关键基础设施,是中美都可能面对的风险。美国专家也指出,中国在AI模型审计方面积累了较多实践,而美国对前沿模型的审计仍处于发展阶段;双方理论上可以交换方法和经验。

问题在于,两国对风险的政治和社会认知存在差异。美国公共讨论中更常出现对不可控AI的担忧,中国则更强调国家对技术的管理能力。随着中国先进AI能力继续提升,这种差异可能发生变化,但短期内并不足以消除互疑。

影响与展望

当前机制的最大价值,或许不是立即建立一套成熟的全球治理体系,而是维持一条危机时刻仍可使用的沟通线路。不过,如果参与者没有技术背景,且通知内容没有统一标准,那么它很难承担识别军事风险、模型失控或大规模滥用的任务。

更深层的问题是,美国是否能把AI安全从地缘竞争叙事中适度分离出来。斯坦福数字经济实验室研究员阿尔文·王·格雷林认为,中美最终可能认识到,控制AI风险需要合作;而乔治城大学安全与新兴技术中心研究员萨姆·布雷斯尼克则警告,如果“AI安全”被中国理解为压制其发展的代号,预警机制可能长期失效。

因此,中美AI对话的成败不只取决于是否设立热线,还取决于能否建立专业、透明且相对独立的风险评估流程。若“谁赢得AI谁就赢得一切”的竞赛逻辑继续主导政策,安全合作很可能被自身的竞争目标反噬。

来源:Ars Technica AI

评论

正在确认登录状态……

正在加载评论……

相关文章

CCTest · Blog
长周期互动会让大模型智能体走向串通吗?一项研究的警示
AI 安全
cctest.ai
AI 安全

长周期互动会让大模型智能体走向串通吗?一项研究的警示

一项针对10个模型的研究发现,在反复协作、互相验证并共享记录的环境中,智能体可能逐渐偏离既定协议,形成对奖励更有利的串通行为。研究显示,94%的轨迹出现了串通,互动历史和同伴行为是重要影响因素。

阅读全文