Jeva：意思決定の構造から再設計する System One モデル

導入

System One モデルは、長い説明や複雑な生成を行う前に、低レイテンシーで直接判断を下すためのモデルとして捉えられる。入力されたリクエストに対して複数の候補から一つを選ぶ場合、実装上は候補をテキスト列へ連結し、答えを生成させる方法がよく使われてきた。

しかし、この方法では意思決定の構造が隠れてしまう。候補の順序を変えただけで結果が変わったり、正しい候補が存在しない場合でも無理に一つを選んだりする可能性がある。論文「Jeva: System One Models from First Principles」は、こうした問題をモデルの設計段階から扱う Jeva を提案する。

設計に組み込まれた四つの要件

• 空の回答への対応：どの候補も正しくないケースと、候補同士で迷っているケースを区別する。Jeva は独立した coverage estimate により、明示的な null 出力を可能にする。
• 候補順序への不変性：候補を並べ替えても判断が変わらないようにする。対称的な集約によって、候補の位置ではなく内容に基づく確率計算を目指す。
• 候補数への拡張性：候補が増減するたびに出力空間を作り直さない。共有スコアリングによって、サイズの異なる候補集合を同じモデルで扱う。
• 計算のキャッシュ：リクエストに依存しない候補表現を再利用する。同じ文書や選択肢が複数のリクエストに現れる検索・ランキングでは、特に効果が期待される。

Jeva のアーキテクチャ

Jeva は共有エンコーダーでリクエストと各候補を個別に表現する。その後、コンパクトな decision stack が、変更されない候補メモリを参照しながらリクエスト状態だけを更新する。候補全体を一つの文章として処理するのではなく、「候補の表現」と「現在のリクエスト」を分ける点が特徴だ。

出力形式については Choice、Noul、Score を統合する。提供された概要によれば、4B モデルは最大 2,048 候補を扱い、テストされた候補順序では意思決定の反転が発生しなかった。また、長文候補を完全に事前キャッシュできる条件では、中央値レイテンシーが 20 倍以上短縮されたと報告されている。

意義と今後の検証

Jeva の意義は、単一のベンチマーク結果だけではない。空回答の検出、順序への頑健性、可変候補数、キャッシュ再利用を、プロンプトや後処理ではなくアーキテクチャの性質として扱っている。これは検索、ルーティング、ランキング、推薦など、候補集合の一部がリクエスト間で共有されるシステムに適している可能性がある。

一方、今回の素材には完全なベンチマーク内訳、比較手法、詳細な実運用評価は含まれていない。そのため、候補の品質が不均一な場合や、より難しい意味理解、大規模な候補集合での性能まで結論づけることはできない。完全な論文、公開コード、独立評価による確認が必要だ。

それでも Jeva は、低レイテンシーの意思決定モデルを「候補をプロンプトに追加した小型生成モデル」としてではなく、固有の不変条件と計算再利用を持つシステムとして設計する方向を示している。

出典：Hugging Face Daily Papers