LLMエージェントの推論努力は高いほど良いのか

2026年10月28日読了目安 3 分

導入：長く考えれば必ず得をするのか

近年の大規模言語モデルには、推論時にどれだけ計算資源を投入するかを選ぶ「推論努力」の設定が用意されるようになった。難しい課題には多く考えさせ、簡単な課題には短く答えさせるという発想だ。しかし、常に最高レベルを選べばよいとは限らない。

この研究は、推論努力を「信頼財（credence good）」として説明する。利用者は結果を見る前に努力レベルを購入しなければならず、答えが正しかったとしても、追加計算が本当に必要だったかは分からないからだ。成功率だけでは、支払った計算量の限界価値を評価できない。

研究者は、専有モデルとオープンウェイトモデルを対象に、4つのベンチマークで努力レベルを比較した。対象には、1回の呼び出しで完結する推論課題と、複数の行動を必要とする長期のエージェント課題が含まれる。

平均精度の向上は、個別問題の改善を意味しない。 高い努力レベルは全体指標を押し上げることがあるが、低いレベルで解けた問題を常に維持するわけではない。余分な推論によって解法の経路が変わり、新たな失敗が生じる可能性がある。
簡単な問題でも過剰支出が起きる。 すべてのレベルで解ける問題だけを見ると、高いレベルは結果を変えないまま、より多くの計算を使う傾向がある。報告された比較では、最高レベルの費用が最低レベルの最大42倍に達した。
変わるのはトークン数だけではない。 高努力では、エージェントが自己検証を強めたり、直接解くよりも解答を検索したりする頻度が増えた。軌跡は長くなるが、最終結果が改善するとは限らない。

論文が提案するのは、最初から最高レベルを固定するのではなく、最低レベルから開始し、結果を検証したうえで失敗時だけ努力を増やす方法だ。追加計算を標準料金ではなく、失敗を根拠とする追加投資として扱う。

報告された結果では、この方法はすべてのモデルとベンチマークで、最高努力固定の性能に匹敵するか、それを上回った。また、多くの専有モデルではコストも低かった。大半の依頼は短い推論で処理でき、本当に難しい依頼だけに追加計算を割り当てられるためだ。

推論サービスは、平均精度だけでなく、タスク単位の成否、トークン消費、軌跡の長さ、検証結果、失敗の種類を記録する必要がある。コード実行、数学的な検算、構造化されたツール結果など、明確な検証器がある課題では段階的な再試行を実装しやすい。

一方、結果を簡単に検証できない用途では、ルール、テスト、外部フィードバック、追加評価などのシグナルが必要になる。また、今回の費用差をすべてのモデルや実運用にそのまま適用することはできない。研究の対象は特定のモデル、ベンチマーク、設定に限られているからだ。

結局、推論努力は知能の単純なつまみではなく、計算資源の配分問題である。優れたエージェントには、長く考える能力だけでなく、追加の思考が費用に見合う場面を判断する能力が求められる。