エージェントが数十から数百のツールを扱うようになると、リクエストごとにすべてのパラメータ定義を送ることで入力トークンが増え、遅延にもつながります。候補が増えれば、適切なツールを選ぶことも難しくなり得ます。GoogleがGemini Interactions APIでプレビュー提供を始めたTool Retrievalは、ツールを利用可能な状態に保ちながら、詳細な定義を必要時までコンテキストに入れない仕組みです。
仕組みと主な機能
- **必要な定義だけを読み込む:**リクエストに
tool_searchを追加し、後から読み込む関数にdefer_loading: trueを設定します。遅延対象の名前と説明はモデルから見えたままです。モデルが必要なツールを名前で要求すると、APIが完全なパラメータ定義を渡し、そのまま関数呼び出しへ進みます。検索、定義の取得、関数呼び出しは同一リクエストのステップとして確認できます。 - **頻出ツールは先に提示:**よく使うツールは最初から読み込み、利用頻度の低いものだけを遅延させる構成が可能です。また、遅延した定義はプロンプトの先頭に入らないため、ターンをまたぐプレフィックスキャッシュを保ちやすいとGoogleは説明しています。
- **MCPと独自検索にも対応:**リモートMCPサーバーのツールもオンデマンドで読み込めます。独自のツールレジストリ、埋め込み検索、ユーザーごとの権限フィルターを持つ場合は、アプリ側で検索を実行する方式も選べます。検索ごとに追加の往復が必要ですが、ツールを事前にすべて宣言せず、会話中に連携を追加することもできます。
料金と利用上のポイント
Tool Retrieval自体に別料金はなく、入出力トークンは通常のモデル料金で計算されます。tool_searchの有効化には少量の固定入力トークンが必要で、実際に読み込んだ定義も以降の会話で入力トークンとして課金されます。そのため、未使用の定義を省くことで得られる削減が検索の追加分を上回るかどうかは、利用状況によって変わります。Googleも実トラフィックでの測定を勧めています。
この機能は現在、Interactions APIのプレビューとして提供され、Gemini 3.6以降とGemini 4モデルに対応します。意義は単に初回のリクエストを短くすることではありません。ツール群全体を毎ターンのコンテキストに詰め込まずに拡張し、通常の関数呼び出しの流れを維持できる点にあります。ツール数が増えるエージェントでは、コンテキスト消費、応答遅延、選択精度をどう両立させるかが設計課題になります。Tool Retrievalはそのための選択肢ですが、効果はツールの利用頻度や処理内容に左右されます。
コメント
ログイン状態を確認中…
コメントを読み込み中…