一条AI提示词抵达模型之前,可能经过路由器、转售商和云端托管商。每一站都可能读取明文请求,也可能按自身规则记录数据。安全研究者HD Moore用近200万条带有独特“金丝雀”的请求,测试这条供应链究竟如何处理敏感信息,结果显示,问题不只是隐私条款写得是否清楚:一些请求确实流出了原本的服务路径。
实验如何追踪泄漏
Moore为实验准备了从未使用过的AWS访问密钥、SSH密码,以及独特网址、DNS名称和私有代码仓库地址。这些凭据对应由研究者控制的空账户或基础设施,并且每个秘密只放入发给一家服务商的一条请求。若之后有人尝试使用凭据或访问链接,研究者便能据此判断秘密经过了哪些环节。
结果显示,至少三家AI托管服务商遭到攻击者入侵。攻击者复制了请求中的部分AWS密钥,并用它们探查存储桶、密钥管理服务等云资源,尝试建立持久访问;这些诱饵凭据最终触发了数以万计次AWS API调用。部分被盗请求在模型尚未运行前就已被复制,说明泄漏可能发生在服务入口,而非模型推理环节。另有一些被盗请求标记了“零数据保留”(ZDR),但隐私标记无法抵挡已经控制服务商系统的攻击者。
实验还发现了服务链中的商业风险。研究者通过将请求发往同一模型、但选择不同转售商,辨别出部分中间商会记录提示词。低价吸引流量、再留存请求,意味着数据可能被模型服务之外的参与者接触。与此同时,部分服务商会抓取请求中的独特网址。研究者称,一家中国AI实验室在数月内访问了超过半数相关链接,其中也包括不少标记为“不收集数据”或ZDR的请求。经美国托管商转售的模型也出现相同抓取行为,说明选择某个本地服务入口,并不必然意味着数据不会继续流向上游。
隐私承诺不能只看一张标签
这项实验并不意味着所有AI服务都会泄密,也没有证明普通用户的每条提示词都已被窃取;它展示的是特定请求在多个服务商处出现的具体风险。对企业而言,关键在于梳理数据经过的每一层:谁能读取提示词、日志保存多久、请求是否经过转售商,以及发生入侵后谁负责响应。ZDR等设置可以表达服务承诺,却不能替代对实际系统安全和供应链的审查。
Moore认为,最能减少第三方接触的做法是自托管模型,但成本较高。无法自托管时,可优先直接选择一线服务商、减少中间商,并明确指定上游模型与供应方,而不是接受默认服务池。无论采取哪种方式,真正的敏感凭据都不应直接写进提示词。随着AI服务越来越依赖层层转接,隐私保护也必须从“相信某个模型”转向审视整条推理链路。
评论
正在确认登录状态……
正在加载评论……