Google DeepMind、AGI議論を広げる新研究機関を設立

導入

汎用人工知能（AGI）をめぐる議論は、これまで能力予測や大まかな安全上の懸念、将来像に関する意見の対立が中心になりがちだった。GoogleとGoogle DeepMindは今回、DeepMind Instituteを設立し、その議論をより多様で、政策に接続しやすいものへ進めようとしている。

同研究機関のディレクターには、DeepMind共同創業者のShane Legg、Google幹部のJames Manyika、Google DeepMind会長のDemis Hassabisが名を連ねる。Leggは編集責任者を務める。研究機関の役割は、企業全体の単一見解を発表することではなく、Google、Google DeepMind、そして世界の研究コミュニティの間にある違いを表に出すことだ。発表では、研究者が常に合意するわけではなく、新たなデータや情報によって考えを変える可能性も明記されている。

初回コレクションの論点

最初の4本の論考は、AGIによる経済的混乱への政策対応、人間が読める推論の維持、人間の繁栄を支える原則、最先端AIモデルの評価枠組みを扱う。特に注目される提案は次の通りだ。

• 透明性を安全対策の目標にする。 DeepMindの安全性研究者Rohin ShahとAnca Draganは、モデルの推論過程が見えにくくなることは必然ではないと論じる。能力向上と監視可能性の低下が衝突する場合、そのトレードオフを開発者と規制当局が直接扱う必要がある。
• 不透明な直列計算を問題にする。 読みやすい推論の痕跡を出さずにモデルが連続して実行できる計算量を制限する案や、透明性の低いシステムでも同等に監視できることを開発者に示させる案が示された。
• 最先端モデルの評価機関を設ける。 Hassabisは、米国主導の標準化機関を設け、最も高度なAIモデルを評価する構想を提案した。初期段階では、開発者がリリースの最大30日前までにモデルを任意で提出する。制度が有効だと確認されれば、米国での最先端モデル展開に合格を求める可能性がある。
• 既知のテストから独立評価へ移る。 将来的には、評価機関が独自に作成し、開発者には公開しない「ホールドアウト」テストを導入する。状況が深刻になれば、最先端AI開発者が協調して開発速度を落とす議論に発展する可能性もある。

意義と課題

この研究機関の意義は、AGI安全性の議論を「慎重であるべきだ」という一般論から、透明性、外部評価、開示、展開条件といった検討可能な仕組みへ移そうとしている点にある。高度なモデルほど内部の処理を直接確認しにくくなるなら、出力がもっともらしいかだけでなく、長期的に検査・比較・説明責任を確保できるかが重要になる。

一方、これらはGoogleの確定した政策ではない。研究機関自身が意見の相違と見解の変更を認めており、Hassabisの評価制度も運用中の規制ではなく、これから構築される枠組みだ。十分な監視可能性の定義、独立したテストの管理者、任意評価を義務化する条件など、解決すべき問題は残っている。

今回の動きは、最先端AIの安全性議論が、原則の表明から具体的な制度設計へ向かっていることを示す。今後はモデルの能力だけでなく、開発者がシステムを理解可能で、評価可能かつ制御可能だと説明できるかも問われることになる。

出典：TechCrunch AI