記事一覧へ戻る
AIセーフティ

Claude Codeがメールアドレスを外部サイトへ送信するリスク

読了目安 3 分

Claude CodeのGitHubに投稿された問題報告が、AIコーディングエージェントの見えにくいプライバシーリスクを浮かび上がらせました。報告によると、Claude Codeがウェブ検索やコマンドを実行する際、ログイン中のユーザーのメールアドレスを第三者サイトへのリクエストに含める可能性がありました。User-Agentのようなリクエスト情報に入るケースも指摘されています。素材だけから、報告者が受け取った迷惑メールがこの挙動によって発生したと断定することはできません。ただし、ユーザーが明確に承認していない状態で個人情報が外部へ送られ得る点は重要です。

なぜメールアドレスが渡されたのか

関連する説明によれば、Claude Codeは当時、ログイン済みアカウントのメールアドレスをモデルのコンテキストに提供していました。作者タグなど、人物やアカウントに関係する作業でより正確な結果を得ることが目的で、モデルが名前を勝手に作る問題を減らす狙いがあったとされています。

一方で、その情報はネットワークアクセス時の材料にもなり得ます。モデルがcurlコマンドやウェブツール呼び出しを自動生成すると、サイトが連絡先を求めていると判断し、コンテキスト中のメールアドレスを適切な値として挿入する可能性があります。ユーザーから見ると単なる検索やコーディング作業でも、メールアドレスはフォームではなく、リクエストヘッダーなどの形で送信されることがあります。

対策と残る課題

素材では、Claude Code 2.1.317以降にcc-plugin-privacyという内蔵モジュールが追加され、標準で有効になったと説明されています。メールアドレスを含む一部のウェブツール呼び出しやcurl形式のコマンドの前に、確認を求める仕組みです。また、Anthropic側は今後のリリースで、モデルに渡すコンテキストからアカウントのメールアドレスを削除する方針を示しました。

ただし、これで全経路が遮断されるわけではありません。関連する説明では、モデルがスクリプトを作成し、そのスクリプトを自動的に実行するケースなど、保護機能が完全にはカバーできない可能性も認められています。直接のツール呼び出しだけを確認する仕組みでは、子プロセスや間接的な通信を見逃すおそれがあります。

AIエージェント設計への示唆

この問題は、プライバシーがサービスの規約だけで決まらないことを示しています。アカウント情報をモデルへ渡す設計、モデルによるコマンド生成、ローカルでの自動実行、外部サイトへの通信が連結したとき、利便性のためのデータが意図せず外部へ出る可能性があります。

より安全な設計には、コンテキストへ渡す個人情報の最小化、送信先とヘッダーの事前表示、スクリプトや子プロセスを含めた監視が必要です。利用者は対策を含むバージョンへ更新し、プライバシーモジュールの状態を確認したうえで、エージェントに与えるネットワーク権限と実行権限を必要最小限に抑えるべきでしょう。

出典:Hacker News

コメント

ログイン状態を確認中…

コメントを読み込み中…

関連記事

CCTest · Blog
同じ訓練でも異なる脱獄攻撃に破られる言語モデル
AIセーフティ
cctest.ai
AIセーフティ

同じ訓練でも異なる脱獄攻撃に破られる言語モデル

同じデータと安全性訓練を使っても、どの脱獄プロンプトに破られるかは、データ配合より具体的な事前学習ランに強く左右されることが示された。単一チェックポイントの安全性評価は、同じ名前の将来版を十分に代表しない可能性がある。

続きを読む
CCTest · Blog
AIディープフェイク広告がMetaの詐欺対策に突きつける課題
AIセーフティ
cctest.ai
AIセーフティ

AIディープフェイク広告がMetaの詐欺対策に突きつける課題

マーク・キューバン氏は、自身の顔や声をAIで再現した偽の糖尿病治療広告がMetaのプラットフォームに掲載されていると主張した。ロイターが報じた社内文書では、詐欺や禁止商品に関連する広告がMetaの収益約160億ドルを生んだ可能性も示されている。

続きを読む
CCTest · Blog
英語だけの安全評価では不十分:多言語・文化文脈でLLMを再調整
AIセーフティ
cctest.ai
AIセーフティ

英語だけの安全評価では不十分:多言語・文化文脈でLLMを再調整

Swiss AI Initiativeは、60言語をカバーする安全対策用コーパス「MSafeTemp」を公開した。研究では、英語で拒否できるモデルでも、他言語への翻訳や文化的にローカライズされた攻撃では脆弱性を示す場合がある。

続きを読む