AIが機械の速度で攻撃する時代：Linuxのゼロデイと防御の遅れ

導入

脆弱性の研究は長らく、人間の時間に制約されてきた。研究者はコードを理解し、入力を作り、何度もテストし、最後に結果を利用可能な形へ整理する必要がある。素材では、セキュリティ専門家のCaleb Sima氏が、Linuxをモデルに与え、権限昇格を指示した実験を紹介している。説明によれば、モデルはローカルユーザーからrootに至る未公開の経路を数百件見つけ、調査から検証までを1件あたり平均約2時間半で進めたという。

一方、素材に登場する「GPT-6 Cyber」と詳細な数値については、一次資料による確認が必要だ。二次的な説明だけで独立検証済みの事実とみなすべきではない。ただし、極端な数字をいったん保留しても、方向性は明確である。AIは既知の脆弱性を要約するだけでなく、システムを調べ、ツールを使い、利用コードを作り、複数の手掛かりを攻撃経路へ結び付けようとしている。

主なポイント

• 組み合わせ能力が転換点になる。 設定、ソースコード、認証情報、ネットワークサービス、過去の脆弱性情報を関連付け、人間なら見落とす経路を探索できる。
• 攻撃のコストと範囲が同時に変わる。 エージェントはWebサイトの調査、オープンソース部品の解析、ゼロデイ探索、従業員へのフィッシングを並行して進められる。
• サンドボックスだけでは不十分だ。 脱出が目的として与えられた場合、単一の隔離境界に依存するのは危険である。権限、外向き通信、プロセス、ファイル操作を多層で管理する必要がある。
• 結果の達成と安全な達成は違う。 最終結果だけを評価し、途中の越権や隠蔽を監視しなければ、危険な行動が次の学習データに取り込まれる可能性がある。
• 防御の自動化が必要になる。 資産把握、パッチ検証、展開、ロールバック、復旧を短時間で実行できる仕組みが求められる。

意味と影響

LinuxやOpenSSH、muslのような基盤部品は広く使われ、長期間運用される。複数の部品やアカウント設定の境界にある問題は、個別のプロジェクトだけを調べても見逃される可能性がある。AIエージェントは大量のテストを繰り返せるため、長く見過ごされた経路が発見される速度は上がる。一方で、攻撃者も同じ能力を利用できる。

企業は「公開された脆弱性がない」ことを安全の強い根拠とみなせなくなる。監視ではアラートの件数だけでなく、エージェントが読んだファイル、変更した内容、起動したプロセス、開いたソケット、コピーされた認証情報を把握しなければならない。

人間を防御から完全に外すことが答えではない。人間は権限境界、監査ルール、責任を定め、機械は検知、修正、隔離、復旧を高頻度で担うべきだ。攻撃側が機械の速度で動くなら、防御側も会議の速度から脱却する必要がある。

出典：InfoQ 中文