DiffResearch、拡散言語モデルで深層リサーチを約6倍高速化

概要

深層リサーチは、質問に一度答えるだけの処理ではありません。エージェントは課題を分解し、資料を検索し、証拠を整理し、不足があれば再計画したうえで、引用付きのレポートにまとめます。複数の処理が連続するため、応答品質だけでなく全体の遅延も実用性を左右します。

DiffResearchは、この遅延をエージェント構成の変更ではなく、言語モデルのバックボーン交換によって改善できるかを調べた研究です。オープンなマルチエージェント基盤の各段階に拡散言語モデル（dLLM）を配置し、同程度の自回帰（AR）モデルと比較しました。

主なポイント

• 比較条件をそろえて検証。 エージェントの構成、検索コード、プロンプト、評価方法を固定し、言語モデルのバックボーンだけを入れ替えています。これにより、解読方式が速度と品質に与える影響を見やすくしています。
• 全体で約6倍の高速化。 100件のDeep Research Benchタスクでは、拡散モデル構成のエンドツーエンド遅延が約6分の1になりました。特に計画と長文作成で、桁レベルの短縮が報告されています。
• dFastは生成完了を待たない。 通常はモデルの出力が完成してから検索用サブクエリを取り出します。dFastは途中のデノイジング状態を読み、生成終了前にサブクエリを抽出します。分解処理単体では中央値で1.99倍の高速化を実現しました。
• 品質を維持。 レポート品質はAR構成と同程度で、3つの構成を比べたRACE評価ではdFastが最も高い総合スコアを得ています。
• オープンな実装。 DiffResearchはApache-2.0ライセンスで公開され、再現や拡張を試せる形になっています。

意義と限界

この研究の重要性は、拡散言語モデルを単発の文章生成ではなく、複数段階のエージェント処理に組み込んで評価した点にあります。深層リサーチでは、最終レポートだけでなく、計画の作成や長文の執筆にも時間がかかります。そこを同時に短縮できれば、検索を伴うAIアシスタントをより対話的に利用できる可能性があります。

dFastの発想もシステム設計上、興味深いものです。文章を完全に生成してから次の検索を始める直列処理ではなく、生成途中の情報を次の行動に利用しようとしているからです。生成とツール呼び出しを部分的に重ね合わせることで、検索中心のワークフロー全体の待ち時間を減らせる可能性があります。

一方、今回の結論は、固定された基盤、特定のベンチマーク、比較対象モデルに基づくものです。実運用の遅延は、検索サービス、ツール呼び出し、並列化、モデルの能力にも左右されます。今後は、より強力な拡散モデルでも速度優位が維持されるか、また中間状態が複雑な動的計画にどこまで使えるかが焦点になります。

Hugging Face Daily Papers