PDD：並列デコード蒸留で画像・動画生成を高速化

導入

拡散モデルとフローマッチングモデルは、画像生成や動画生成の中核技術になっている。一方で、推論時には多くの反復サンプリングが必要になりやすい。画像であれば待ち時間の増加につながり、動画ではフレーム数や時間的一貫性、動きの表現が加わるため、計算コストはさらに大きくなる。

論文「Parallel Decoding Distillation for Fast Image and Video Generation」は、このボトルネックに対して PDD（Parallel Decoding Distillation）を提案している。狙いは、既存の事前学習済みモデルを活用しながら、少ない関数評価回数で生成できるように蒸留することだ。

核心ポイント

• NFE を減らすことが目標：NFE はサンプリング中の関数評価回数を指す。PDD は 4-8 NFE のような少ステップ設定で高い性能を出すことを目指している。
• 複数ステップを一度に予測：通常のサンプリングは段階的にノイズ除去を進める。PDD は 1 回のネットワーク評価で複数のノイズ除去ステップを予測し、逐次的な処理を圧縮する。
• 蒸留の訓練を簡素化：既存の高速化手法では、Variational Score Distillation や敵対的損失に強く依存するものが多い。これらは高品質な結果を得られる一方、最適化が難しく、モード崩壊によって動画の多様性や動きが失われる可能性がある。PDD は軌道ベースの蒸留として、より単純で拡張しやすい方法を志向している。
• 事前学習済みモデルに対応：論文では、提案するアーキテクチャと訓練手順は任意の事前学習済みモデルと互換性があり、異なる NFE 設定でのサンプリングもサポートすると説明している。
• 平均速度の表現を学習：概念的には、PDD は平均速度の表現を学ぶ。JVP や有限差分近似を使って導関数を直接回帰する必要はないとされる。

意義と影響

生成 AI の実用性は、画質や一貫性だけでなく速度にも大きく左右される。特に動画生成では、サンプリングが遅いとインタラクティブな制作ツールや商用サービスへの導入が難しくなる。PDD はこの問題に対し、モデル自体を一から作り直すのではなく、サンプリング軌道を効率化するという立場を取っている。

さらに重要なのは、動画の多様性に関する主張だ。少ステップ蒸留では、生成分布が狭まり、似たような動画ばかりになったり、動きが弱くなったりすることがある。PDD が多様性を改善できるなら、高速化と表現力の両立に向けた有力な方向になる。

論文では、LTX-2.3 Text-to-Video/Audio、Wan 14B Text-to-Video、Qwen-Image Text-to-Image において、4-8 NFE で最先端性能を達成したと報告されている。複数のモデルやタスクで評価されている点から、単一モデル向けの調整ではなく、より一般的な蒸留手法として位置づけられている。

今後は、公開ベンチマークでの追加検証や再現性の確認が重要になる。それでも PDD は、生成モデルの進化が「より大きなモデル」だけでなく、「既存モデルをより速く、安定して使う技術」にも向かっていることを示している。

出典：Hugging Face Daily Papers