Hinton初のRSI論文：AI研究の自動化は知能爆発を引き起こすのか

導入

再帰的自己改善（RSI）は、単なるSFの設定ではなく、工学的に検証すべきテーマになりつつある。Geoffrey Hinton、Yoshua Bengio、Andrew Barto、OpenAIのチーフサイエンティストであるJakub Pachockiらが執筆した論文『What if automating AI R&D triggers an intelligence explosion?』は、重要な問いを扱っている。AIが次世代AIの研究開発を支援し、より強いAIが次の研究をさらに速めるとき、その循環は加速し続けるのだろうか。

主なポイント

• 対象はコード生成だけではない。 本格的なAI研究の自動化には、仮説の作成、実験設計、学習や評価の実行、結果の解釈、失敗原因の特定、研究方針の修正が含まれる。個別のコーディング作業をこなすだけでは補助ツールに近く、これらの工程を長時間連続して扱えて初めて研究者に近づく。
• 研究ワークフローへの導入は進んでいる。 論文は、AIが生成して承認されたコードの比率や、高レベルの人間監督下でAIが担当する研究業務の割合が短期間で増えたという、研究所内部の指標を取り上げている。ただし、それは研究所全体の研究をAIが独立して完了していることを意味しない。
• 複製可能な研究者が供給構造を変える。 人間の研究者を育成するには長い年月がかかるが、AI研究エージェントは推論計算資源を追加することで複製できる可能性がある。基盤モデルが更新されれば、多数のインスタンスが同時に能力を得られる。論文はこの規模を「実効的なR&D労働力」として捉える。
• 加速には研究収益が必要だ。 研究投入を増やしても、進歩が比例して増えるとは限らない。エージェント同士が同じ作業を繰り返したり、最先端の課題が急速に難しくなったりすれば、循環は減速する。新しい研究能力が次の研究を明確に改善して初めて、自己強化のループが成立する。

意義と限界

論文が想定するのは「ソフトウェア主導の知能爆発」だ。アルゴリズム、学習手法、エージェントの手順、合成データの戦略は、半導体やデータセンターより短時間で展開できる可能性がある。しかし、ソフトウェアの速さは物理的な制約を消さない。GPUはすぐに増えず、大規模学習には時間が必要で、高品質なデータも不足する可能性がある。多数のエージェントが同じ実験資源を奪い合えば、規模の利益も小さくなる。

したがって、この論文は知能爆発がすでに始まったと主張していない。むしろ、AI研究の自動化によって、遠い仮説だった問題が安全性、ガバナンス、備えを必要とする現実的な課題になったと示している。今後の焦点は単一のベンチマークではなく、AIが長い研究サイクルを安定して動かし、AI研究そのものの改善周期を継続的に短縮できるかどうかだ。

出典：QbitAI