ParaTempo、時間的信頼度で並列推論を動的に最適化

大規模な推論モデルでは、1本の思考経路に固定する代わりに、複数の解法を並列に試すことで正答率や頑健性を高められる場合があります。しかし、探索するブランチが増え、各経路が長くなるほど、推論に必要な計算量と待ち時間も増加します。そのため、どの経路を残し、どの経路を打ち切るかを適切に判断する仕組みが重要になります。

ParaTempo は、この問題に対して「時間的信頼度」を中心とする学習不要の非同期フレームワークを提案します。各ブランチは推論の途中で定期的にプローブされ、暫定的な回答確率分布を生成します。システムは単一時点の確率を見るのではなく、最近の複数回の分布を比較します。ある候補に分布が継続的に集中すれば、そのブランチは答え空間に収束しつつあると判断されます。一方、予測が広く分散したり頻繁に変化したりする場合は、まだ不確実な経路とみなされます。

この時間的信頼度は、複数の制御に共通して使われます。

• 収束の兆候が弱いブランチを枝刈りする。
• 支配的な回答に継続してコミットするブランチを早期に終了する。
• 枝刈りや終了で空いた計算資源を使い、新しい経路をフォークする。
• 信頼度で重み付けした投票が十分に集中した時点で、全体の生成を停止する。

ParaTempo の特徴は、全ブランチを同じステップで同期させる必要がないことです。各経路は自身の収束状況に応じて継続、終了、または拡張されます。固定されたブランチ数や推論長を使う方式と比べ、計算資源をモデルの不確実性に合わせて動的に配分する設計だと言えます。

これは、複数の回答を最後まで生成してから多数決を取るだけの自己整合性とは異なります。最終回答の合意は有用ですが、判断が遅く、まだ生成中の経路が有望かどうかを直接示しません。また token 単位の信頼度は即時性がある一方、正しい推論の進展ではなく局所的な言語確率を反映する可能性があります。複数時点の回答分布を見ることで、ParaTempo は制御信号をブランチ単位の収束に近づけようとしています。

論文は数学・科学推論の難しいベンチマークで評価を行い、平均レイテンシーの削減を報告しています。ただし、提供された素材には具体的な数値が含まれていないため、改善幅をここで断定することはできません。追加学習を必要としない推論時のスケジューリング手法として位置付けられている点が、実運用上のポイントです。

一方で、予測が集中したからといって正解とは限りません。複数のブランチが同じ誤りを共有している場合、投票の集中は誤答を強化する可能性があります。プローブ自体の追加コストや、タスクごとの信頼度校正も課題です。真の収束と相関した誤りを区別し、安定した停止条件を設計できるかが、今後の実用性を左右するでしょう。

出典：Hugging Face Daily Papers