REMORY、長期エージェントの文脈圧縮に残差メモリを追加

長期にわたって動作するAIエージェントでは、会話、観測結果、ツール呼び出し、中間的な判断が蓄積し、やがてコンテキストウィンドウの上限に達します。そのため履歴を要約してから処理を続ける方法が広く使われています。しかし、自然言語の要約は読みやすい一方で、後の判断に影響する小さな手掛かりや、明示的に書きにくい状態を失う可能性があります。REMORYは、この不足をソフトメモリで補う設計です。

仕組みの要点

REMORYにはニューラルメモリネットワークがあり、入力として元の履歴と圧縮済みの要約を受け取ります。そして、長さが制限されたソフトメモリTokenを生成します。これらは人間が読む文章ではなく、モデルが直接扱う連続表現です。生成されたTokenは要約の後ろに追加され、そのまま凍結された大規模言語モデルに渡されます。

重要なのは、要約とソフトメモリの役割を分けている点です。要約は、何が起きたかを明示的に伝える読みやすい情報の骨格です。一方、ソフトメモリは要約に書かれていないものの、モデルの次の行動に影響する情報を補完します。学習の目標は元の履歴を単純に再現することではありません。要約と追加Tokenを与えたとき、凍結されたLLMが完全な履歴を読んだ場合の継続に近い出力を生成できるようにすることです。

報告された結果

• SummHayでは、洞察のカバレッジをほぼ維持しながら出典帰属を改善しました。
• 報告された設定では、入力位置の5.2%だけを使って完全な文脈に近いジョイントスコアに達しました。
• 長期エージェントのベンチマークで、Qwen3.8-27BとGLM-5.3-Flashの双方に一貫した改善が見られました。
• BrowseCompとTerminal-Bench 2.1では、残差メモリの利用により、重複したツール出力とツールエラーが大幅に減少しました。

意義と限界

REMORYの意義は、単にプロンプトを短くすることではありません。人間が確認しやすい明示的な要約と、文章では安定して表現しにくい状態を保持する学習表現を組み合わせる点にあります。ブラウザや端末を繰り返し使うエージェントでは、同じ出力を繰り返すことやツールを誤用することが履歴をさらに膨らませます。そのため、こうした挙動の減少は、精度だけでなく利用可能な文脈の寿命にも関係します。

一方、提供された情報だけでは、ソフトメモリが異なるタスクへどの程度移転できるか、Token数をどう決めるか、追加の学習・推論コストがどれほどかは分かりません。自然言語の要約に比べて内容を検査しにくい可能性もあります。したがってREMORYは、長期記憶を完全に解決した手法というより、文脈圧縮を再設計する有望な方向として評価するのが適切です。

出典：Hugging Face Daily Papers