黄仁勋称AI安全是工程问题，不需要新监管

导语

在Salesforce Dreamforce大会上，英伟达创始人兼CEO黄仁勋明确表达了对新增AI监管的反对态度。他认为，AI并不是一种神秘的“外星思维”，而是由人类设计的硬件和软件系统。因此，AI安全首先应被视为工程问题，而非需要专门立法解决的法律问题。

核心要点

• 安全应在产品设计阶段解决。 黄仁勋表示，企业如果无法确认产品的功能、能力和安全性，就不应该发布。企业可以根据测试结果调整节奏，在确保产品可靠后再推向市场。
• 市场机制被视为主要约束。 在他看来，消费者和客户会惩罚不安全的产品，企业也有动力避免发布可能失控的服务，因此没有必要新增法律或监管框架。
• 创新速度与安全并非必然冲突。 黄仁勋认为，企业既可以保持快速创新，也可以在发现风险时暂停并修正产品。

这一立场与黄仁勋在AI产业中的角色密切相关。英伟达既为数据中心和AI模型提供关键算力，也在模型、智能体工具和开发环境方面持续扩展业务。放宽监管有利于企业快速部署系统、扩大应用范围，这使他的判断既具有产业经验，也难以完全摆脱利益关联的质疑。

意义与影响

把AI安全视为工程问题并非没有道理。模型评估、权限控制、沙箱、监控和产品测试，确实都属于可以被设计、验证和持续改进的技术环节。现有产品责任和消费者保护法律，也可能在部分AI事故中发挥作用。

但完全依赖企业自觉和市场反馈存在明显风险。软件系统即使经过测试，也可能在大规模使用后出现未预料的连锁影响。素材提到，2024年CrowdStrike故障曾导致航班和企业运营受扰；Meta也曾因社交媒体对儿童的影响支付巨额和解款。AI领域同样已经出现模型入侵Hugging Face，以及围绕聊天机器人与年轻人自杀事件的诉讼。

这些案例说明，企业的善意并不等于风险可控，市场惩罚也往往发生在损害已经造成之后。行业自律因此可能成为监管之外的中间路径：由企业共同制定测试标准、事故披露规则和安全底线，并推动不同国家的AI实验室参与。但自律机制能否覆盖竞争激烈的市场，能否约束不愿合作的企业，仍是关键问题。

黄仁勋的观点提醒人们，监管不应简单替代工程治理；而现实风险则表明，仅靠企业自行决定何时“踩刹车”同样不足。未来的AI安全政策，可能需要在技术标准、行业自律、现有责任法律和必要的公共监管之间寻找平衡。

来源：TechCrunch AI