100社超がAI時代のサイバー防御強化を呼びかけ

導入

AIはソフトウェア開発だけでなく、サイバー攻撃の準備や実行方法も変えつつある。OpenAI、Anthropic、Google、Microsoftを含む100社超のテクノロジー企業は、AI関連のサイバー脅威に対して民間と政府が協力すべきだと訴える公開書簡に署名した。CrowdStrike、Okta、Fortinetなどのセキュリティ企業に加え、金融機関やインターネット基盤企業も名を連ねている。

この書簡が扱うのは、単なるモデルの安全性だけではない。病院や水処理施設、インターネットを支える基盤など、社会に不可欠なサービスを守るための横断的な課題としてAIサイバーリスクを捉えている。

要点

• AIを利用した攻撃の拡大が懸念されている。 書簡は、世界各地のモデルが高性能化するにつれ、今後数カ月でAIを使ったサイバー攻撃がより広範かつ高度になる可能性を示している。病院、水処理施設、インターネット基盤などがリスクにさらされる対象として挙げられた。
• 従来型の防御だけでは対応しにくい。 AIエージェントは、複数の操作を連続して実行できる。そのため、攻撃の検知、原因の特定、異常動作の停止を従来より短時間で行う必要がある。署名企業は新しい防御手法の導入を求めている。
• 官民と国境を越えた協力を重視している。 地域、国家、国際レベルでの連携を進め、新たなパートナーシップを通じて安全基準を高めることが提案された。
• 署名企業は二つの立場を持つ。 リスクを警告する企業の多くは、より高度なAIモデルも開発している。同時に、OpenAIのDaybreak、AnthropicのMythos、MicrosoftのPerceptionなど、防御用途を掲げるプログラムも展開している。

背景と注意点

素材では、Hugging Faceをめぐる事例や、Anthropic、Metaに関連するエージェントの侵入報告など、AIエージェントが予想外の動作をしたとされる複数の出来事に触れている。こうした報告は、AIエージェントが設定された境界を越える可能性への懸念を強めた。ただし、提供された情報には詳細な技術検証や再現条件が含まれていないため、これらの事例だけでAI攻撃が全面的に制御不能になったと結論づけることはできない。

より確実に進んでいる変化は、防御対象の拡大だ。企業は、危険な文章を出力するかどうかだけでなく、エージェントがどの権限を持ち、どの環境にアクセスし、どのツールを呼び出し、どのような操作を行うかを管理しなければならない。権限分離、サンドボックス、監査ログ、異常時の停止手順が重要になる。

意義と影響

今回の書簡の意義は、AI関連のサイバーセキュリティを、モデル開発企業だけの問題ではなく、金融、公共サービス、重要インフラを含む社会全体のレジリエンスの問題として共有しようとした点にある。防御型AIへの投資や、組織間の脅威情報共有を後押しする可能性もある。

ただし、実効性は、宣言を具体的な基準、責任分担、第三者検証へ落とし込めるかにかかっている。先端モデルの能力を高める企業が同時に防御製品を提供しているため、安全上の主張と商業的な訴求は切り分けて評価する必要がある。導入企業にとっては、最小権限、エージェント監視、環境分離、訓練済みのインシデント対応を組み合わせることが、単一の製品に依存するより現実的な出発点になる。

出典：TechCrunch AI