AnthropicがAIでAI開発を加速、なぜ安全研究者は警戒するのか

導入

AI研究企業がAIを使って次のモデルを開発すること自体は、すでに一般的になりつつある。今回、AI安全性研究機関METRがAnthropicを11週間調査し、その規模と速度を外部から検討できる材料を示した。METRによれば、Anthropicのモデルは1年前と比べておよそ2倍の速さで改善している。しかも、その変化は単に学習用計算資源を増やした結果だけでは説明しにくく、AIによる研究支援が大きく寄与しているという。

主なポイント

• 進歩のペースが上がっている。 METRのベンチマーク分析では、Anthropicは過去1年間に、従来の歴史的な約2年分に相当する進歩を達成したとされる。研究者は、計算量の拡大だけが主因ではないと判断している。
• 社員の生産性が大きく伸びた。 Anthropicの最も高性能な内部モデルを使う社員は、AIを使わない場合と比べて平均約12倍の生産性を自己申告した。これは非公式調査に基づく数字であり、すべての職種を対象にした統一実験ではない。
• 現段階では人間との協働が中心だ。 加速の多くは、AIが研究者を支援する形で生じている。完全自律で研究を進めているわけではないが、METRは自律的な貢献が今後増える可能性を指摘し、明確な減速要因も確認できなかった。
• 未公開モデルが存在する。 Anthropicは過去半年に3つの内部モデルの学習を完了したが、いずれも一般公開されていない。そのため、外部の研究者は能力や進歩を直接再現できない。
• 公開情報には大きな制約がある。 Anthropicは内部研究や性能データ、社員への聞き取りをMETRに提供した一方、公開版の内容を削除する権限を保持していた。METRは、約100ページの完全版から特に有用な証拠の多くが削除され、一部のデータ要求も認められなかったと説明している。

意味と影響

この報告書は、AIがすでに人間の関与なしに自分自身を完全改良できると示したものではない。より重要なのは、強力なフィードバックループの兆候である。モデルが研究者の生産性を高め、研究開発が速くなれば、さらに高性能なモデルがより短期間で作られる可能性がある。こうした流れが続けば、計算資源や学習予算だけを基準にした進歩予測は不十分になるかもしれない。

同時に、Anthropicの姿勢には緊張関係がある。同社はAI安全性を重視する企業として知られ、CEOのDario Amodeiも開発の減速を呼びかけてきた。しかし実際には、AIを使ってAI開発そのものを加速している。問題は、研究所がAIを使うべきかどうかだけではない。加速の仕組みが見えにくく、外部評価で最も重要な証拠を確認できないとき、社会がリスクを把握して対応できるのかという点にある。

Anthropicは、競争上の機密を守り、他社に開発を速める手引きを与えないために削除が必要だったと説明している。その主張には合理性がある一方、公開された証拠が少ないほど、世間はMETRの判断に依存することになる。Anthropicは今後、AIの進歩速度に関する独自報告と追加の安全対策を公表する予定だ。重要なのは、能力の伸びだけでなく、それを検証できる透明性と独立性が確保されるかどうかである。

出典：The Verge AI