Gemini Decisions API、多モーダル判定を低遅延APIとして提供

生成AIのすべての処理に、長い文章の生成が必要なわけではない。モデルの振り分け、ポリシー違反の確認、ツール選択、コンテンツの評価では、必要なのは確率や候補、スコアだけというケースが多い。GoogleのGemini Decisions APIは、こうした選択肢が限定された判定処理に焦点を当てた新しいAPIだ。

主なポイント

• 1つの入力に最大1000問：同じコンテキストに独立した質問を複数付けて送信できるため、同一データを何度も処理する負担を抑えられる。
• マルチモーダル入力：テキスト、画像、音声、動画、PDFを直接扱える。通話録音とアカウント情報、保険書類と損傷写真の組み合わせも想定されている。
• 3種類の判定：Yes/No型は条件が成立する確率を推定する。choice型は2〜255個の候補から選び、各候補の正規化確率を返す。score型は順序付きルーブリックに沿って重み付きスコアと各レベルの確率を返す。原文のサンプルではYes/Noの型名に「noul」が使われているため、実装時は公式ドキュメントの定義を確認したい。
• 低遅延を重視：Googleによれば、モデル計算の中央値は50〜100ミリ秒、エンドツーエンドでは150〜250ミリ秒。最大256Kトークンのコンテキストに対応するが、遅延の説明は主に16Kトークンまでの条件を対象としている。
• 入力中心の料金体系：100万入力トークン当たり0.10ドルで、出力トークン料金はない。同じリクエスト内の共有入力は一度だけ課金され、試作向けの無料枠も用意されるという。

Gemini Decision 1は、文章をトークン単位で生成するのではなく、候補を直接スコアリングする。返された信頼度を使えば、曖昧な結果だけを高性能モデルやルールエンジン、人間の担当者に回す設計が可能になる。応答時間が重要なエージェント基盤では、汎用チャットAPIとは異なる価値がある。

意味と課題

公表された性能と価格が実運用でも維持されるなら、Decisions APIは生成AIアプリの軽量な制御層になり得る。単純な依頼は低コストモデルへ、難しい依頼は高性能モデルへ振り分けるといった構成を、個別の分類器を訓練せずに作れる。Googleは、Gemini Notebookのモデルルーティング、Stitchの高速なデザイン編集、CCの絵文字選択、Searchにおけるツールの安全確認を社内利用例として挙げている。

一方、信頼度は正しさの証明ではない。候補を閉じた集合に限定する設計では、想定外の状況を表現できない場合もある。導入企業は、自社データでしきい値、校正、誤判定のコスト、フォールバックを検証する必要がある。金融や医療などの高リスク用途では、公開ベンチマークだけで判断すべきではない。

利用者はGoogle AI Studioからキーを取得し、Python、JavaScript、RESTで試せる。OpenRouterやLangChain、Vercel、LiteLLMなどとの連携も案内されている。狙いは汎用モデルを置き換えることではなく、「どれを選ぶか」「通過させるか」「どの段階か」という頻出判定を、生成処理から切り出すことにある。

出典：Google AI Blog