AIへのプロンプトはモデルに届くまでに、ルーター、再販業者、クラウドのホスティング事業者を経由することがあります。各段階でリクエストの平文を読める場合があり、データの保存方針も事業者ごとに異なります。セキュリティ研究者のHD Moore氏は、追跡可能な「カナリア」を仕込んだ約200万件のリクエストで、この経路を調査しました。結果は、問題がプライバシーポリシーの曖昧さだけではなく、一部のリクエストが受信元のサービスの外へ流出した可能性を示しています。
偽の秘密情報で流出経路を追跡
Moore氏は、未使用のAWSアクセスキーやSSHパスワードに加え、固有のURL、DNS名、非公開リポジトリへの参照を用意しました。認証情報は、同氏が管理する空のアカウントやインフラに結び付けられています。それぞれの秘密情報は、1社のサービスに送る1件のリクエストだけに含めました。その後、誰かが認証情報を試したりリンクにアクセスしたりすれば、秘密情報がどこまで移動したかを特定できます。
実験では、少なくとも3社のAIホスティング事業者が攻撃者に侵入されていた証拠が見つかりました。攻撃者はリクエストから一部のAWSキーを抜き出し、ストレージバケットやシークレット管理サービスなどを調査。アクセスを維持するための操作も試みました。仕込んだ認証情報は、合計で数万回のAWS API呼び出しに使われました。モデルが動く前に複製されたリクエストもあり、推論処理の奥ではなく、事業者の受け付け段階で盗まれた可能性があります。また、侵害されたリクエストの中には「ゼロデータ保持(ZDR)」と指定されたものもありました。事業者のシステム自体が侵害されていれば、こうした設定だけではデータを守れません。
商業的な中間事業者にも懸念が見つかりました。同じモデルへのリクエストを複数の再販業者経由で送り、比較することで、プロンプトを記録していた仲介業者を特定しました。低価格で利用者を集めるサービスであっても、ログを残せばモデル提供元以外がリクエストに触れる可能性があります。さらに、一部の事業者はプロンプトに含まれた固有URLを取得していました。Moore氏によると、中国のあるAI研究所は数カ月間にテスト用リンクの半数超へアクセスし、その中には「データ収集なし」やZDRと指定されたリクエストも多く含まれていました。同じモデルを米国のホスティング事業者が再販した場合にも同様の取得が見られました。国内の窓口を選ぶだけでは、データの上流への流れを止められない場合があります。
プライバシー設定だけでは不十分
この実験は、すべてのAIサービスが情報を漏らしていることや、一般利用者のプロンプトが一律に盗まれていることを示すものではありません。管理されたテスト用リクエストで、具体的なリスクを確認した調査です。組織にとって重要なのは、誰がプロンプトを読めるのか、ログがいつまで保存されるのか、再販業者を経由するのか、侵害時に誰が対応するのかを、経路全体で把握することです。ZDRなどの設定は事業者の約束を示しますが、システムや供給網の安全性を確認する代わりにはなりません。
Moore氏は、第三者への露出を減らすうえでモデルの自前運用が最も有効だとしていますが、費用がかかります。難しい場合は、一線の事業者と直接契約し、仲介者を減らし、既定の事業者プールに任せず上流の提供元を選ぶ方法を勧めています。どの構成でも、本物の認証情報をプロンプトに書き込むべきではありません。AIサービスの経路が多層化するほど、プライバシー評価の対象は目に見えるモデルだけでなく、推論の全経路である必要があります。
コメント
ログイン状態を確認中…
コメントを読み込み中…