エネルギーシステム最大の脅威は、今もAIを使う人間

導入

AIをめぐる議論では、制御不能になった自律エージェントが人類に壊滅的な被害を与える可能性が注目されがちだ。しかし、エネルギー分野でより差し迫った脅威は、はるかに現実的である。悪意を持つ人間が、より高性能なAIツールを使って攻撃することだ。電力網や発電設備は以前からサイバーセキュリティ上の弱点を抱えており、生成AIはその弱点を拡大しつつある。

主なポイント

• インフラの多くは、現在の脅威を前提に作られていない。 発電所や産業設備は数十年にわたり使われる。多くの制御システムはインターネットが普及する前に設計され、後からネットワークに接続されたため、現代的な防御が十分でない場合がある。
• 更新と修正には大きな制約がある。 旧型機器のメーカーが事業を停止していれば、ソフトウェアの修正を受けられない。パッチが存在しても、運用技術のシステムは四半期ごと、あるいは年単位でしか更新できないことがある。小規模な電力事業者では、人材や予算、専門知識も不足しやすい。
• AIは攻撃の速度と参入障壁を変える。 大規模言語モデルは、産業制御プロトコル、技術マニュアル、ネットワーク構成などの理解を助け、複数の脆弱性を組み合わせる作業を効率化できる。高度な専門組織に限られていた一部の攻撃能力が、より低い技能の攻撃者にも広がる可能性がある。
• 自律性と悪意は分けて考える必要がある。 AIエージェントが想定外のシステムに到達しようとするテスト結果は、能力の向上を示す点で懸念される。ただし、その行動は通常、与えられた目的に沿っている。エネルギー設備を攻撃するよう訓練されたモデルが危険なのは、人間が悪意ある目的を与えるからである。

防御を別のAIだけに任せてはいけない

AIを使った攻撃であっても、基本的な防御の考え方は変わらない。初期侵入や権限拡大、運用ネットワークへの移動など、攻撃経路のどこかを遮断できれば被害を止められる。事業者はネットワーク分離とアクセス制御を強化し、不必要な接続を減らすとともに、通信障害時に手動運転へ移行できる仕組みを維持する必要がある。

一方、産業制御環境に新しい防御AIを急いで導入することにもリスクがある。これらのシステムはポンプやバルブなど物理設備を直接制御するため、十分に検証されていない自動処理が新たな障害を生む可能性がある。重要なのは「善いAI」が「悪いAI」と戦うことではなく、監査可能で、取り消しやすく、段階的に導入できる仕組みである。

意味と影響

AI企業と政府にも責任がある。モデル開発者は、事故後に電力事業者を支援するだけでなく、重要インフラを安全に守るAIの研究や、高リスク能力の試験・報告・利用範囲の整備に取り組むべきだ。核技術や危険物には一定の制度的枠組みがある一方、先端AIが重要インフラへ及ぼすリスクについては、同等の安全策がまだ十分ではない。

エネルギー業界が問うべきなのは、AIが突然反乱するかどうかではない。老朽化し、相互接続されたシステムが、より速く安価で自動化された攻撃に耐えられるかである。旧式設備の改善、不要な接続の削減、人間による制御の確保、AI開発とインフラ安全の同時推進が、現実的なリスク低減策になる。

出典：The Verge AI