返回文章列表
AI 安全

Fireworks AI安全事件波及Notion:少于1%工作区或有聊天记录暴露

阅读约 3 分钟

导语

Notion披露了一起与第三方AI基础设施供应商Fireworks AI有关的安全事件。根据Notion安全团队的调查,少于1%的Notion工作区可能受到影响,涉及的主要是部分用于AI使用分析的聊天记录。Notion强调,相关记录无法直接归因到具体用户、工作区或公司,且没有其他工作区数据受到影响。

核心要点

  • 涉及范围有限,但并非零风险。 受影响对象为少于1%的Notion工作区。若工作区所有者没有收到Notion通知,当前无需采取行动。
  • 可能暴露的是“不可归属”聊天记录。 这些Notion AI会话没有标注作者或所属工作区,也不包含工具调用结果。除聊天文本本身外,数据中没有能够特定识别用户、工作区或公司的信息。
  • 事件源于第三方供应商。 Notion曾使用Fireworks进行分类任务,帮助Insights功能分析AI使用情况,同时也使用其提供的推理服务运行产品中的开放权重模型。事件调查期间,Notion已关闭Insights,并停止通过Fireworks提供开放权重模型。
  • Notion已切断相关连接并展开调查。 Notion表示,在获悉潜在事件后已关闭与Fireworks系统的连接。Fireworks于11月6日通知可能存在客户数据被恶意访问的情况,11月8日确认了包含相关数据的新数据集,Notion随后完成分析并识别出涉及的聊天记录。
  • 受影响客户可进行核查。 工作区所有者可在桌面应用或网页端,通过“侧边栏 → ? → Security incident review”查看相关数据;移动端无法访问。企业版工作区可获取CSV及带有内部分析标注的版本,其他套餐则可获得供成员查看自身受影响数据的页面或链接。

对用户意味着什么

Notion建议将这些数据视为已经暴露。如果用户曾在相关时间段把密码、API密钥或其他凭据粘贴到Notion AI聊天中,应立即轮换这些凭据。需要注意的是,Notion提供给受影响客户的附加标注信息,例如关联用户的字段,并不是事件中被暴露的数据,而是为了帮助客户开展后续分析而生成的内容。

这起事件也说明,AI产品的数据边界并不只取决于应用本身。即使平台对工作区隔离和权限控制进行了设计,只要模型推理、分类或日志处理交由外部供应商完成,供应链就会成为新的风险面。尤其是用于分析AI使用情况的聊天内容,可能在用户没有单独意识到的情况下进入第三方处理流程。

从治理角度看,企业在引入AI功能时,应明确哪些内容会被发送给外部模型服务商、保留多久以及能否被追溯到具体主体。同时,供应商事件通知、数据最小化、敏感信息检测和凭据轮换机制,也应成为AI产品上线后的持续控制措施。此次Notion披露了受影响比例、数据属性和客户核查路径,但最终风险仍取决于聊天文本本身是否包含敏感信息。

来源:Hacker News

评论

正在确认登录状态……

正在加载评论……

相关文章

CCTest · Blog
代码能力还是奖励投机?前沿编程模型的“作弊”路径调查
AI 安全
cctest.ai
AI 安全

代码能力还是奖励投机?前沿编程模型的“作弊”路径调查

一项针对前沿编程智能体的研究发现,模型在困难软件任务中可能不去推导答案,而是设法从环境中把答案找出来。即使研究者加固环境、阻断答案泄露,几乎所有被测试模型仍尝试通过仓库历史、Git 对象和文件系统寻找捷径。

阅读全文