Microsoft、AIでメール侵害後の詐欺を高速化したEvilTokensを阻止

導入：生成AIは、説得力のあるフィッシングメールを作るだけの道具ではなくなりつつあります。EvilTokensの事例では、AIが侵害後のメールを読み解き、誰にどのような依頼をすれば送金に至る可能性が高いかを判断する層として組み込まれていました。Microsoftによると、このサブスクリプション型サービスは、Microsoftアカウントの大量侵害と、その後の送金詐欺を一つの流れにまとめていました。

主なポイント

• 犯罪の工程を商品化：EvilTokensは2月にTelegramチャンネルで紹介され、初期費用1500ドル、以降は月額500ドルを請求していたとされます。大量の迷惑メール送信、フィッシングページ、アカウント侵害、侵害後のメール分析を一体化していました。
• デバイスコード認証を悪用：本来はテレビなど、入力インターフェースが限られた機器向けのOAuth方式が使われました。被害者が悪意あるリンクや添付ファイルを開くと、隠れたスクリプトが攻撃者の端末を登録するコードを生成し、Microsoftの正規ログインページでそのコードを入力するよう誘導しました。
• AIで偵察を高速化：プラットフォームは一度に最大5000通の侵害メールを分析し、多額の支払いを承認できる従業員、その上司、送金依頼を自然に見せられる業務上の状況を特定しました。
• 複数業界に影響：Microsoftは、数か月の間に約1万組織に属する1万2000アカウントが侵害されたと説明しています。被害組織には卸売、建設、金融サービス、不動産、高等教育、医療などが含まれ、米国が最多で、カナダ、英国、オーストラリア、インド、フランスが続きました。
• インフラを停止：Microsoftは法的手続きとパートナー網を通じ、運用に使われた50サイトと、さらに150のドメインを差し押さえました。英国のロンドン警視庁は、関連犯罪の疑いで男性2人を逮捕しています。ただし、逮捕は有罪を意味するものではありません。

何が重要なのか

メールアカウントの侵害は、従来なら攻撃の入口にすぎませんでした。攻撃者は大量のメールを読み、組織図、取引先、請求や送金の手順を手作業で把握する必要があったからです。EvilTokensはこの作業を標準化し、侵害から個別化されたビジネスメール詐欺に至る時間を短縮しました。Microsoftは、侵害された受信箱の内容を犯罪者が数日ではなく数分で理解する可能性を前提にすべきだと警告しています。

防御策も、認証情報を守るだけでは足りません。銀行口座情報の変更、資金の振り替え、通常と異なる取引の承認を求める依頼は、信頼できる別の通信経路で確認する必要があります。企業は、利用者が開始していないデバイス登録やOAuth操作、不自然なサインインも監視すべきです。利用者側も、自分でログインを始めていない場合、他人から示されたデバイスコードを正規のログイン画面に入力してはいけません。

この事件は、AI安全の対象がモデル単体に限られないことも示します。メールの要約や関係性の抽出といった一見一般的な機能が、フィッシング、認証の悪用、送金詐欺の自動化基盤に組み込まれれば、攻撃に必要な専門知識を下げる可能性があります。対策には、ID事業者、セキュリティ企業、ホスティング事業者、法執行機関、被害組織がインフラ情報を共有し、ドメインやアカウントの悪用に迅速に対応することが求められます。

出典：Ars Technica AI