OpenAI、顧客データを保持しない安全監視でAnthropicに対抗

企業がAIに機密性の高い業務を任せるほど、AI提供会社は難しい両立を迫られる。悪用を見逃さない安全対策が必要な一方で、安全監視のために顧客の会話を長期間保存したり、広範囲に閲覧したりすることは許されにくい。OpenAIが一部顧客向けにプレビューを始めたPrivate Safety Processingは、この緊張関係に対する新たな回答だ。

主なポイント

• 単一セッションから複数会話へ：OpenAIのZero Data Retention（ZDR）は、基本的にセッション単位で悪用を監視する。新機能は複数会話の入力と出力を対象に、より長い期間の行動パターンを分析する。
• 分散された悪用を想定：悪意ある利用者が検知を避けるため、リクエストを複数の会話に分散させる可能性がある。OpenAIは、マルウェア開発のような活動を想定した検知に役立つと説明している。
• 顧客データを保持しない設計：監視は自動化されたエージェントが行う。条件に該当した場合、OpenAIに送られるのは特定の活動を示す限定的なシグナルで、会話全体ではない。
• 対応には顧客との連携が残る：シグナルを基に、OpenAIが対応の必要性を判断することがある。その際、顧客に追加の説明を求める場合があるが、データを共有するかどうかは顧客が決められる。

この仕組みは、Anthropicが最近示した「対象モデル」のデータ保持方針と対照的だ。Anthropicは安全分析のため、該当するユーザーデータや会話を30日間保持できるとしている。また、承認された少数の担当者による人手の確認が、管理されたアクセス経路で行われる場合もある。機密情報を大量に扱う企業にとって、こうした保持方針は懸念材料になっている。

意味と影響

両社の違いは、単なる技術仕様の差ではない。企業がAIを導入する際に、一定期間のデータ保持を受け入れて安全分析の直接性を高めるのか、それともデータ最小化を優先して自動検知に依存するのかという、ガバナンス上の選択になりつつある。

会話内容を公開せずにセッションをまたぐ悪用を見つけられるなら、金融、医療、サイバーセキュリティなどの顧客には魅力となる。一方、自動判定には誤検知や見逃しの可能性があり、限定的なシグナルだけで利用制限を判断する場合の説明責任も課題になる。

企業は「ゼロデータ保持」という名称だけでなく、何を関連付けて分析できるのか、どの情報が外部へ出るのか、人がアクセスできる範囲、監査ログ、判断への異議申し立てや状況説明の方法を確認する必要がある。OpenAIとAnthropicの競争が続けば、プライバシー設計は企業向けAIを選ぶ際の重要な差別化要素になるだろう。

出典：TechCrunch AI