JitMem：LLMエージェントが必要な時に記憶を編集する仕組み

導入

大規模言語モデルのエージェントに記憶を持たせる場合、過去の会話を保存するだけでは十分ではありません。どの経験を残すのか、どの形式で表現するのか、そして後のタスクでどう使うのかを決める必要があります。従来の多くの方式は、タスクが終わった直後に軌跡を要約します。反省、ワークフロー、スキル、推論戦略などの固定された成果物に変換してから、将来のタスクとの類似度で検索する設計です。

しかし、要約を作る時点では、将来どの情報が必要になるか分かりません。早すぎる圧縮によって、後から役立つ細部を失う可能性があります。論文「Just-in-Time Memory: Learning to Curate Task-Adaptive Memory for LLM Agents」は、この順序を逆転させるJust-in-Time Memory、略してJitMemを提案しています。

主なポイント

• 生の軌跡を先に保持する。 JitMemは経験をすぐ固定的な要約に変換せず、元のタスク軌跡を利用できる状態で残します。書き込み時の判断による情報損失を抑える狙いです。
• 現在のタスクに応じて編集する。 新しいタスクが来ると、関連しそうな軌跡を検索し、現在のタスクと一緒にメモリキュレーターへ渡します。キュレーターは、その場の目的に合う簡潔なペイロードを作ります。同じ経験でも、質問が変われば異なる形で活用できます。
• 学習の遅延を短くする。 書き込み時の整理では、ある保存判断の価値が何タスクも後になって初めて分かる場合があります。JitMemでは、整理した結果が現在のタスクで直ちに消費されるため、タスク成功を直接のフィードバックにできます。関連タスクを人工的にまとめる必要もありません。
• 複数環境で改善を報告する。 ALFWorld、WebShop、τ^2-benchで、無記憶エージェントや、ヒューリスティックおよび学習型の書き込み時メモリ方式を上回りました。最強のベースラインに対する成功率の絶対改善は、それぞれ16.2、16.3、3.9ポイントとされています。キュレーターを訓練しなくても競争力があり、追加訓練によって改善が積み重なりました。

意義と課題

JitMemの重要性は、記憶を「いつ作るか」という設計上の前提を見直した点にあります。書き込み時の圧縮は保存効率に優れますが、将来の用途を予測しなければなりません。読み出し時の編集なら、経験を保持することと、その経験をどう解釈するかを分離できます。将来の要求を事前に列挙しにくい長期稼働エージェントには、特に適した考え方です。

一方で、生の軌跡を保存すれば、ストレージ、検索、コンテキスト処理のコストは増える可能性があります。また、結果は検索の精度や実行エージェントの能力にも左右されます。したがって、すべての履歴を無制限に保存すべきだという意味ではありません。より一般的な示唆は、情報の圧縮を固定的な前処理ではなく、必要になった時に行う処理として設計できるということです。エージェントの記憶は静的な保管庫から、タスクごとに再構成されるコンテキスト資源へ変わるかもしれません。

出典：Hugging Face Daily Papers