米中AI安全ホットライン、競争論が信頼構築を妨げる可能性

導入

人工知能分野で先行する米国と中国は、急速に進化するAIの安全リスクについて、直接連絡できる仕組みを設けようとしている。米国のスコット・ベッセント財務長官によれば、両国は、一方の国のAIシステムが脅威となったり予測不能な挙動を示したりした場合に、相手国へ警告を送る通知制度を協議した。共通の目標に関する見解を交換する用途も想定されている。

危機時の連絡手段としては、控えめながら意味のある一歩に見える。しかし、その提案は米国の対中半導体規制、知的財産をめぐる非難、そして「AI競争に勝つべきだ」という政治的主張が強まる中で示された。安全について話し合う場が、戦略競争の延長として扱われないかが問題になる。

主なポイント

• 制度の設計がまだ不十分だ。 報道によれば、計画には通知内容の緊急性を判断する技術専門家が含まれていない可能性がある。警告を伝達できても、その信頼性や深刻度を評価できなければ、実際の対応にはつながりにくい。
• 中国は公に賛同していない。 ドナルド・トランプ大統領が米国のAI優位を強調しても、中国は協議への参加を取りやめた様子を見せていない。一方で、提案された制度を公式に認めてもおらず、政治的な信頼不足が残っている。
• 技術競争が安全対話を圧迫している。 米国は中国によるAI向け半導体やハードウェアへのアクセスを制限する輸出規制を強化している。さらに、米司法省は中国の主要AI企業が米国の最先端研究機関から技術を盗んだと主張しており、中国側はこれに反発している。
• 実効性には共通ルールが必要だ。 リスクの分類、通知を出す条件、対応手順、定期的な見直しについて合意しなければ、制度は外交的な象徴にとどまる可能性が高い。

それでも協力が必要な理由

両国の政治体制やAI観が異なっていても、共通する危険はある。ハッカーやテロ組織がAIを利用して重要インフラを攻撃するリスクは、米中の双方に関係する。また、両国には交換できる経験もある。ジョージタウン大学のサム・ブレスニック氏によれば、中国はAIモデルの監査を継続的に実施しており、最先端モデルの監査に取り組み始めた米国にとって参考になり得る。

ただし、リスクの捉え方には差がある。米国では制御不能な高性能AIへの懸念が目立つ一方、中国では国家がAIを管理できるという考え方が比較的強い。中国の能力が米国に近づけば議論は変わるかもしれないが、現時点では共通の安全用語を作ること自体が難しい。

意味と影響

この通知制度の当面の価値は、成熟した国際ガバナンスを直ちに作ることではなく、危機時の連絡を維持することにあるだろう。軍事利用、モデルの重大な失敗、大規模な悪用を評価するには、技術専門家の参加と情報処理への信頼が欠かせない。

スタンフォード大学デジタル経済研究所のアルビン・ワン・グレイリン氏は、対話を続ければ、AIリスクの管理には協力が必要だと両国が理解する可能性があるとみる。一方、ブレスニック氏は慎重で、「AI安全」が中国の発展を抑えるための言い換えだと受け取られれば、制度は長期的に機能しない恐れがあると指摘する。

米国は技術的優位を維持しながら安全策を求め、中国には先端ハードウェアへの制限を課したまま安全情報の共有を促している。この矛盾をホットラインだけで解決することはできない。安全対策を対中技術封じ込めから一定程度切り離せるかどうかが、提案の実効性を左右する。

出典：Ars Technica AI