AIは減速すべきか：安全を巡り企業と米政界が対立

導入

フロンティア人工知能の開発は、いったん速度を落とすべきなのか。Anthropicのダリオ・アモデイCEOが、AI開発の最前線を「ペース配分」すべきだと訴える長文を公開し、AI業界の幹部や米国の政治家から相次いで反応が出た。賛成派は、モデルの能力が高まるほど、導入前の安全検証と監督に時間が必要だと主張する。一方、反対派は、減速すれば中国との技術競争で米国が不利になると懸念している。

争点は、モデル開発を完全に止めるかどうかではない。制御不能、悪用、権力の過度な集中といったリスクを抑えながら、技術的な勢いを維持できるかが問われている。

アモデイ氏の三つの提案

同氏は、次の三段階を示した。

• 企業の安全対策や約束を検証し、事故を報告できる独立した第三者評価機関を導入すること。
• 民主主義国のフロンティアAI企業が、安全基準や開発上の限界について協調すること。
• 可能な範囲で、民主主義国と権威主義国の政府がAI開発のペースについて協議すること。

アモデイ氏は、ペースを落とすことは学習や技術進歩を停止する意味ではないと説明している。企業がモデルの調整や安全対策に十分な時間をかけ、第三者がそれを確認できる状態を目指す考えだ。Anthropicはまず、第三者評価を自社で一方的に受け入れる方針を示した。

AI企業幹部の共通点

OpenAIのサム・アルトマンCEOは、フロンティア開発のペース配分に同意し、独立した評価者の導入を支持した。さらに、最先端AIに共通の安全要件を設ける連邦レベルの枠組みにも前向きな姿勢を示した。ただし、同氏が想定するのは停止ではなく、従来より遅い進展である。

アルトマン氏は、AIによって人間が将来への制御を失うこと、そして権力が過度に集中することを重大な失敗シナリオとして挙げた。Google DeepMindの共同創業者デミス・ハサビス氏も、アモデイ氏の方向性は正しいと評価したが、制度の詳細には検討が必要だとした。イーロン・マスク氏も賛意を示している。

この反応からは、一部の企業幹部が強い安全ガバナンスを受け入れつつあることが分かる。ただし、支持されているのは一時停止よりも、検証、共通基準、導入ペースの調整である。元ホワイトハウス関係者のデービッド・サックス氏は前進してよいと述べながら、企業の規制要請が完全に利他的なのか疑問を呈した。元Metaのヤン・ルカン氏は、安全上の警告を過剰だとして批判した。

米政界の安全と競争

トランプ大統領はAI開発の減速に反対し、米国はAI競争に勝たなければならないと主張した。副大統領のJD・バンス氏も、最先端企業が政府に規制を求めることに懐疑的で、それが競争を制限する「トロイの木馬」になり得ると指摘した。

下院議長のマイク・ジョンソン氏は中間的な立場を示した。中国に追い抜かれる恐れがあるため一時停止は認められないが、モデルの安全確保も必要だという。これに対して、バーニー・サンダース氏や元副大統領のカマラ・ハリス氏は、より責任ある減速を支持した。元運輸長官のピート・ブティジェッジ氏は、規則や安全策に加えて、暴走するAIを止める仕組みが必要だと訴えた。

元FTC委員長のリナ・カーン氏は、危険で未検証、または欠陥のある製品を取り締まる法律はすでに存在すると指摘している。新たな制度を議論する際も、既存の執行手段を見落としてはならないという立場だ。

今後の意味

今回の応酬は三つの変化を示している。第一に、フロンティアAIの安全性が企業倫理から国家政策へ移った。第二に、選択肢は無制限の開発か全面停止かだけではなく、第三者評価、事故報告、共通基準といった中間策が現実的な入口になっている。第三に、中国との競争が規制論を強く左右している。

今後の焦点は、誰が「減速」に賛成するかではない。企業の約束を検証でき、政府の競争圧力にも耐えられる透明で実行可能な安全ルールを作れるかどうかである。

出典：The Verge AI