文章を生成しないAIモデル「Jev」が開発者を引きつける理由

現在のAI開発では、知能を大規模言語モデルの文章生成として実装するのが一般的だ。しかしTypeSafe AIは、ソフトウェアが必要とする多くの判断は、会話文よりも単純な確率や分類結果で十分だと考えている。同社は元OpenAI研究者のDiogo Almeida氏らが設立したスタートアップで、今回、文章を出力しないモデル「Jev」を公開した。

主なポイント

• 人間向けの会話ではなく、ソフトウェア向けの判断を返す。 開発者が選択肢をあらかじめ定義し、Jevはその候補に対する確率や判断を返す。生成文を後から解析する仕組みではなく、アプリケーションが直接利用しやすい形式だ。
• 速度と料金を重視する。 TypeSafe AIによれば、Jevの出力トークンは無料で、入力は100万トークン単位ではなく10億トークン単位で計測される。長い文章を生成しないため、高頻度の処理に向くという。
• 不確実性をワークフローに組み込める。 例えば、信頼度が高い場合だけ自動実行し、低い場合は人間や別のモデルに回す、といった設計が可能になる。誤りをなくすものではないが、判断の不確かさを明示できる点が特徴だ。

初期の利用例は、既存のLLMを置き換えたり補完したりする用途に集中している。Vercelのエンジニア、Pranit Sharma氏は、コマンドの安全性を分類するテストで、以前利用していたOpenAIのモデルよりJevが5～18倍速く、精度も高かったと説明した。Bryo AIのCTO、Nikhil Mudholkar氏の業務メール分類テストでは、Geminiの方がわずかに高精度だった一方、費用は10～20倍高かったという。同氏は、Jevが確率を返す点を特に評価している。

Jevは、大型モデルの監視役としても利用できる可能性がある。エージェントの実行履歴を確認し、脱獄攻撃の兆候を検出したり、処理内容に応じてどのモデルを呼び出すかをリアルタイムで決めたりする使い方だ。高価なLLMにすべての判断を任せず、小さなモデルを制御層として置く発想である。

意義と課題

Jevは汎用LLMの代替というより、低コストな判断機能をソフトウェアのあらゆる場所へ埋め込む試みだ。モデル名は、資源が安くなるほど利用が増えることがあるという「ジェヴォンズのパラドックス」に由来する。知能の単価が下がれば、これまで費用面で難しかった自動化が広がる可能性がある。

一方、TypeSafe AIは詳細なアーキテクチャを明らかにしておらず、外部からはオープンウェイトのLLMを基盤にしているのではないかとの見方もある。同社は合成データのみで学習し、「校正された判断からの強化学習」と呼ぶ手法を使ったとしている。現時点では事例が限られるため、未知の領域での汎化性能、確率の校正、実運用での安定性は独立した評価を待つ必要がある。

出典：TechCrunch AI