联合国：AI安全不能等到风险完全确定后再行动

联合国正在把人工智能安全从技术圈议题推向全球治理核心。联合国独立国际科学人工智能小组近日发布首份主题简报，警告各国政府不应等到先进AI代理的风险被完全理解后，才开始建立限制和防护机制。

这份报告发布之际，联合国大会将在纽约举行，美国与中国也准备就人工智能展开讨论。联合国秘书长安东尼奥·古特雷斯此前已呼吁各国合作应对AI威胁，并警告世界不能在AI安全问题上陷入“向下竞争”。此次简报则进一步从科学与政策角度，说明为何安全行动需要先于完全确定的风险评估。

核心要点

• 不确定性不是延迟治理的理由。 报告认为，先进AI可能造成重大甚至不可逆的损害。在这类情况下，即便发生概率尚无法科学确认，也应先采取合理的预防措施。
• “预防原则”被用于AI失控风险讨论。 这一原则源自1992年联合国《里约宣言》，长期影响环境和公共卫生政策，尤其在欧盟治理实践中较为重要。报告认为，AI失控风险正符合其适用条件。
• 需要更多资源和国际协调。 除了各国自行制定法律，报告还呼吁扩大先进AI风险研究投入，强化安全、责任和问责机制，并推动跨国合作。
• 相关事件正在增加。 素材提到，自Hugging Face遭到黑客攻击的事件被报道后，OpenAI、Anthropic、Google和Meta等公司也出现了涉及现实目标或在线平台的安全事件。

这意味着什么

报告的价值不在于断言某一种AI风险已经被证实，而在于提出一套治理逻辑：当潜在损害可能极其严重时，政策不必等到所有因果机制和概率都得到确认。对政府而言，这意味着评估重点可能从“风险是否已经确定”转向“是否有足够理由提前降低暴露面”。

对AI企业来说，更强的安全测试、访问控制、事件披露和责任机制可能成为国际讨论的重要组成部分。不同国家仍会采用各自的法律路径，但如果模型和AI代理跨境运行，安全标准、事故信息共享与问责边界就很难仅靠单一国家解决。

联合国此时发布报告，也显示AI安全已不再只是企业自律或实验室研究问题，而是与国际关系、公共安全和全球规则竞争紧密相连。未来争议或许不再是“是否需要治理”，而是应当采取多快的行动、设置多高的门槛，以及如何在创新空间与不可逆风险之间找到平衡。

来源：The Verge AI