Fireworks AIのセキュリティ事故、Notionの1％未満のワークスペースに影響か

概要

Notionは、第三者のAIインフラ事業者であるFireworks AIに関連するセキュリティ事故について告知しました。Notionのセキュリティチームによる調査では、影響を受けた可能性があるのは全ワークスペースの1％未満です。対象となった可能性があるのは、NotionのAI利用状況を分析するInsights機能に使われた一部のAIチャット記録です。

Notionによれば、これらの記録は「帰属不能」な状態でした。つまり、誰が書いたのか、どのワークスペースから来たのかを示す情報が付いていません。また、ツール呼び出しの結果も含まれていません。チャット本文以外に、特定のユーザー、ワークスペース、企業へ結び付けられる情報はなかったとされています。ワークスペース内のその他のデータは影響を受けていません。

主なポイント

• 影響範囲は限定的です。 影響の可能性があるのは1％未満のワークスペースです。Notionまたはワークスペース所有者から連絡がなければ、現時点で対応は必要ありません。
• 対象はチャット本文の一部です。 記録には作成者やワークスペースのラベルがなく、ツール呼び出し結果も含まれていません。ただし、本文に何を書いたかによって実際のリスクは変わります。
• Fireworksは複数のAI処理に使われていました。 NotionはInsights向けの分類処理と、製品内でオープンウェイトモデルを提供する推論処理にFireworksを利用していました。
• Notionは連携を停止しました。 調査中、Insights機能を無効化し、Fireworks経由でのオープンウェイトモデル提供も停止しています。
• 対象顧客は記録を確認できます。 デスクトップアプリまたはウェブブラウザーで、サイドバーのヘルプメニューから「Security incident review」を開けます。モバイルでは利用できません。EnterpriseプランではCSVと分析用の注釈付きCSV、その他のプランではメンバーが自分のデータを確認するためのページやリンクが提供されます。

利用者と企業への影響

Notionは、対象データを露出したものとして扱うよう推奨しています。該当期間にNotion AIへパスワード、APIキー、その他の認証情報を入力していた場合は、直ちに更新・無効化する必要があります。対象顧客向けに表示されるユーザー関連の注釈などは、事故で露出した情報ではなく、影響分析を支援するためNotionが追加した情報です。

今回の件は、AI機能のセキュリティ境界がアプリケーション本体だけで完結しないことを示しています。推論、分類、監視などを外部事業者に委託すると、その事業者もデータ処理経路の一部になります。ワークスペース単位の権限制御があっても、サプライヤー側の事故は別のリスク面になり得ます。

企業がAI機能を導入する際は、どの入力が外部サービスへ送られるのか、保存期間はどの程度か、組織や利用者にひも付けられるのかを確認する必要があります。データ最小化、機密情報の検出、事故通知、認証情報のローテーション、顧客が自分で影響を確認できる仕組みも、継続的な管理策として重要です。

今回、Notionは影響範囲と確認方法を示しましたが、実際の影響はチャット本文に含まれていた情報に左右されます。便利なAI機能を第三者基盤で実現する場合、導入時の審査だけでなく、運用中のサプライチェーン監視も欠かせません。

出典：Hacker News