Y Combinator总裁反对打击“蒸馏”:美国AI监管出现分歧
导语
围绕大模型“蒸馏”的争论,正在从技术圈扩展到监管与产业政策层面。Anthropic希望美国监管部门遏制其所称的“非法蒸馏攻击”,而Y Combinator总裁Garry Tan在接受CNBC采访时给出的方向却截然不同:不应因为这类现象而采取新的限制措施。
核心要点
- Anthropic在9月发布的第二份威胁情报报告中,指控一些中国实验室通过隐藏身份、欺诈以及盗用凭证等方式,套取前沿模型的能力。
- Anthropic CEO Dario Amodei此前已经公开呼吁美国监管部门打击相关蒸馏行为。
- Garry Tan则认为,美国AI实验室也应当能够开展模型蒸馏,不赞成以监管手段全面压制这一技术路径。
- 争议并不只是“要不要蒸馏”,还涉及授权边界、服务访问控制、商业机密、模型竞争与国家安全等问题。
蒸馏为何引发争议
模型蒸馏通常是指利用能力更强的模型生成输出,再帮助训练另一个模型,使后者以较低成本获得部分相近能力。对于模型开发者而言,这可能削弱高额训练投入形成的竞争壁垒;如果过程涉及绕过访问限制、伪造身份或使用被盗凭证,争议就会从技术借鉴升级为安全与合规问题。
不过,蒸馏本身并不天然等同于违法行为。它可以是研究、压缩、部署优化和能力迁移的一部分。真正需要厘清的,是哪些数据和输出可以被合法使用,服务条款能否形成足够明确的约束,以及跨境取证和责任追究应如何执行。素材并未给出相关报告的完整证据或监管方案,因此不能据此判断所有被指控行为的事实与法律性质。
分歧意味着什么
Anthropic的立场强调前沿模型的保护,以及模型访问可能带来的安全风险;Tan的立场则更看重技术扩散和竞争,担心过度监管会让美国企业失去研发和应用空间。两种观点分别对应“保护能力资产”和“避免监管阻断创新”两套政策逻辑。
后续政策若仅笼统禁止蒸馏,可能误伤正常研究与工程实践;若完全不设边界,也可能放大凭证滥用、自动化抓取和商业机密争议。更可行的讨论方向,或许是区分合法模型压缩与欺诈性访问,明确授权、审计、日志留存和责任认定规则。当前这场争论尚未给出统一答案,但它已经说明:随着模型能力成为核心资产,AI监管的重点正从模型发布延伸到模型使用方式与能力转移路径。
来源:OSChina
评论
正在确认登录状态……
正在加载评论……