IDU、生成モデルの高速化と選択的なデータ忘却を統合

生成モデルでは、高品質な出力、推論速度、学習データの制御を同時に満たすことが難しい場合があります。拡散モデルやフローマッチングモデルは多段階のサンプリングによって高品質な画像を生成できますが、その分だけ推論コストが増えます。また、学習後に削除したいデータや、今後再現させたくない内容まで生成する可能性があります。今回の研究は、この二つの課題を同じ学習手順で扱います。

IDUの狙い

提案手法のInverse Distillation Unlearning（IDU）は、全データで学習済みの多段階教師モデルから、1ステップで出力できる学生生成器を学習します。その際、単に教師の振る舞いを模倣するだけでなく、指定された「忘却集合」に対応する出力を抑制します。忘却集合は、特定のクラスなど、モデルに再現させたくない学習データの部分集合です。

IDUの特徴は、保持したいデータを改めて用意しなくてもよい点です。必要なのは、全データで学習済みの教師モデルと忘却対象のサンプルだけで、保持データへのアクセス、追加の特徴抽出器、分類器を学習に使いません。そのため、データの再収集や完全な再学習を避けながら、既存モデルを修正する方法として位置づけられます。

分布を使った統一的な定式化

IDUは、個別サンプルへの単純なペナルティではなく、生成分布そのものを扱います。

• 蒸留と忘却を同時に最適化：高速化と対象データの抑制を別々の段階に分けません。
• 混合分布として表現：学習時の分布を、忘却集合の分布と学生モデルの生成分布の混合として表します。
• 保持部分を復元：この混合分布を教師が学習した元の分布と比較し、指定されていない部分を残す方向へ最適化します。
• 複数のモデル形式に対応：フローマッチングとスコアベース拡散の教師モデルで評価されています。

実験から見えること

MNISTとCIFAR-10を用いた実験では、IDUによって忘却対象クラスの生成頻度が大きく低下し、保持クラスでは競争力のある生成品質が維持されました。提供された情報には詳細な数値がないため、大規模な実運用全般で効果が確認されたとまでは言えません。現時点では、小規模な画像データセットにおける手法の実現可能性を示した研究と見るのが適切です。

この研究の意義は、推論の効率化とモデルの選択的な記憶修正を結び付けた点にあります。1ステップ化はサンプリングコストの削減につながり、忘却機構はプライバシー、データ撤回、不要な記憶の抑制に応用できる可能性があります。一方で、個別画像の忘却、より大規模な画像モデル、条件付き生成、忘却後の残存記憶を測る評価などは今後の課題です。IDUは、生成モデルが何を保持し、何を生成しないかを、蒸留の過程で同時に設計する方向性を示しています。

出典：Hugging Face Daily Papers