記事一覧へ戻る
AIセーフティ

Claudeの利用枠が勝手に消費される、セッション窃取が示すAI契約の盲点

読了目安 3 分

導入

生成AIがコーディングや事務作業、企業の業務フローに組み込まれるほど、アカウントの乗っ取りは単なるプライバシー問題ではなくなる。利用枠の消費、予期しない請求、業務停止につながるためだ。最近、Claudeを使っていない時間帯にもトークン使用量が増えていたという利用者の報告が複数寄せられ、Anthropicが一部の利用者に注意を呼びかけた。

同社によれば、攻撃者は情報窃取マルウェアを使ってパソコンからログインセッションを盗み、そのセッションでClaudeアカウントにアクセスした可能性がある。Anthropicは、マルウェアがClaudeの利用そのものから発生したものではないとも説明している。

何が起きたのか

英国イースト・サセックスのAIコンサルタント、Grant De Swardt氏は、作業をしていない日にClaude Max 20xの利用量が増えていることに気づいた。翌日、Claudeに接続していた機能を停止し、サービスを使わない状態にした後も、利用量は45%から55%に上昇した。予定されたタスクは停止または完了し、クラウド実行も無効で、ローカルでClaude Codeを動かしている形跡もなかったという。

Anthropicはアカウントを一時停止し、セッションとサーバー側のClaude Codeトークンを無効化したうえで、残りの契約期間に対する44.49ポンドの一部返金を行った。その後、侵害されたClaudeのセッションキーが不正なClaude Code OAuthトークンの発行に使われたと説明した。また、第三者サービスが他人の活動を処理するためにアカウントを使った形跡があったが、アクセス方法は特定できなかったとしている。

問題を難しくする要因

  • 利用明細が不十分:サポートは総使用量を確認できても、何がどれだけ消費したかという詳細を提示できなかった。
  • 有効なセッションが狙われる:情報窃取マルウェアは保存パスワード、セッション情報、認証情報を盗む。感染したソフトウェアや悪意ある広告などが侵入経路になる場合がある。
  • 請求にも影響する:利用者の中には、ほとんど操作していないのに上限まで消費された、同意なくプランが変更されカードに請求された、と主張する人もいた。
  • 復旧まで業務が止まる:De Swardt氏は約2週間後にアカウントを復旧できたが、その間に事業へ影響が出た。最終的に契約を解約し、複数モデルを利用できるCursorへ移行した。

AIサービスに求められる対策

今回の報告だけで、すべての異常利用が同一の攻撃によるものだとは断定できない。また、Claude自体がマルウェアを配布したことを示す内容でもない。一方で、AIサービスの認証リスクがパスワードだけに限られないことは明らかだ。ブラウザーのセッション、OAuth認可、クラウド実行用トークンも攻撃対象になりうる。

利用者は、見覚えのないセッションを終了し、不明な認可を取り消し、端末を検査し、出所の不明なソフトウェアを避ける必要がある。サービス提供者側には、異常検知と強制ログアウトに加え、詳細な利用履歴、分かりやすい認可管理、早期警告、迅速な返金・復旧手続きが求められる。AIが業務基盤になるほど、利用量の透明性は請求機能ではなく信頼性の一部になる。

出典:TechCrunch AI

コメント

ログイン状態を確認中…

コメントを読み込み中…

関連記事

CCTest · Blog
MOLE、AIエージェントの内部脅威検知能力を評価するベンチマーク
AIセーフティ
cctest.ai
AIセーフティ

MOLE、AIエージェントの内部脅威検知能力を評価するベンチマーク

MOLEは、限られた監査予算のもとで、共有サービスを操作するAIエージェントの有害行動を検知できるか評価するオープンベンチマークです。エージェントが拒否を示したかどうかだけでは、最終的に有害な目的を達成するかを判断できないことが示されました。

続きを読む
CCTest · Blog
Meta広告審査がAI「ヌード化」アプリを止められなかった理由
AIセーフティ
cctest.ai
AIセーフティ

Meta広告審査がAI「ヌード化」アプリを止められなかった理由

FacebookとInstagramで、実在する未成年者の写真を使った露骨な合成コンテンツを含むAI「ヌード化」アプリの広告が多数確認された。Metaは削除を進めたが、検知と広告審査の遅れや一貫性が問題になっている。

続きを読む
CCTest · Blog
定型的な拒否文を使わずに安全性を学習すると誤拒否は減るのか
AIセーフティ
cctest.ai
AIセーフティ

定型的な拒否文を使わずに安全性を学習すると誤拒否は減るのか

安全チューニングの応答を、定型的な拒否文と拒否理由に分けて分析した研究が発表されました。拒否理由だけで学習すると、安全性を大きく損なわずに、無害な依頼への誤拒否を減らせる可能性があります。

続きを読む