AIエージェントのプライバシー宣言は本当に守られるのか

導入

AIエージェントをめぐる競争は、単に「仕事を完了できるか」という段階から、「個人情報を預け、代わりに操作させられるか」という段階へ移りつつある。今年のOpenAI DevDayで、サム・アルトマンCEOは新しいAIエージェントDotsを発表し、最先端AIにおけるプライバシーの新しい基準を作りたいと述べた。イベントではMetaのMuseを意識した発言もあり、OpenAIのほうがデータの扱いに慎重だという印象が示された。

この構図は突然生まれたものではない。数カ月前、MetaはMuseをOpenClawより安全な代替製品として位置付け、マーク・ザッカーバーグCEOも、プライバシーとセキュリティを前提に設計したと説明していた。両社はともに、「競合より安全だから、より多くの情報を任せてほしい」と訴えている。

主なポイント

• エージェントが扱う情報は特に機微性が高い。 通常のチャットボットとは異なり、エージェントはメッセージ、ウェブ、ファイル、買い物や決済に関わる情報へアクセスする可能性がある。権限が増えるほど、誤操作や侵害の被害も大きくなる。
• 隔離環境でも事業者のアクセスが消えるとは限らない。 MetaはMuseのデータを安全な仮想マシンに保存すると説明したが、当初の設計ではMeta自身がデータにアクセスできた。同社は後に、暗号学的に検証できるアクセス防止機能を導入する計画を示した。
• Museの安全性は現実の問題に直面した。 研究者は、エージェントを乗っ取れる可能性のあるゼロデイ脆弱性を発見した。公開直前には深刻な問題も報じられた。また、ユーザー入力をMetaのモデル学習に使う設定が初期状態で有効だった。利用者が私的なメッセージを読まれたり、個人情報を他人に提示されたりした例もあり、製品仕様の範囲内の動作であっても、利用者の理解とのずれが浮き彫りになった。
• Dotsは利用者の制御を前面に出す。 OpenAIは、一定額を超える購入を禁止するなど、エージェントに個別ルールを設定できる機能を示した。企業向けには、より強いデータ管理とゼロデータ保持の選択肢も提示している。ただしDotsは高額なChatGPT契約層に限られており、広範な利用での実績はまだ少ない。

意味と影響

プライバシーはAIエージェントの宣伝文句ではなく、企業が導入を判断する際の重要な評価項目になりつつある。一方、「隔離されている」「学習に使わない」「ユーザーが制御できる」といった表現だけで安全性が保証されるわけではない。初期設定が最小権限になっているか、エージェントの行動を利用者が理解できるか、保存期間や事業者のアクセスを検証できるか、問題発生時に被害を抑えられるかが重要になる。

利用者は、公開イベントでの約束ではなく、権限、学習利用の設定、保存期間、決済上限を確認すべきだ。開発企業にとっても、現実世界で操作するエージェントのセキュリティは、マーケティングではなく設計の中心に置く必要がある。Dotsが本当に新しい基準を作れるかどうかは、より多くの利用者、複雑な権限、外部からの攻撃にさらされた後の実績で判断されることになる。

出典：The Verge AI