LLaDA-Image：生成と編集を統合するオープンな画像モデル

導入

画像生成モデルの評価軸は、見栄えのよい画像を作れるかだけではなく、細かな指示を理解し、参照画像を保ちながら編集できるかへと広がっています。論文「LLaDA-Image: Building Strong Image Generators with Fully Open Training Recipes」は、画像生成と編集を同じモデルファミリーに統合するアプローチを提案しました。

手法のポイント

中核となるのは、ゼロから学習した6BパラメータのDiffusion Transformer（DiT）です。最初から画像とテキストのペアデータに大きく依存するのではなく、画像のみの事前学習と中間学習を先に行い、視覚生成の基盤を構築します。学習パイプラインには約2億2,000万のサンプルが含まれ、その中には実画像データも含まれます。

理解と条件付けには、LLaDA2.0-Miniの拡散言語モデルを基盤とする視覚言語モジュールを利用します。このモジュールは凍結されます。つまり、DiTが画像空間での生成を担い、理解モジュールが指示やマルチモーダル条件の解釈を補助する構成です。対応機能は、テキストからの画像生成、VQ条件付き生成、参照画像編集、中国語・英語の文字描画です。

学習の効率化も重要な要素です。DiT全体でパラメータを持たないRMSNormを使い、Muonオプティマイザーと組み合わせています。これにより、大規模な最適化を効率化し、スケールさせやすくすることを狙っています。さらに、モデル重みだけでなく、学習コードと詳しいレシピも公開されます。

2つのモデル

• LLaDA-Image：50ステップで高品質な生成と指示ベースの編集を行います。
• LLaDA-Image-Turbo：蒸留により、生成・編集を2〜4ステップで実行します。

評価と意義

論文概要によれば、Qwen-Image-Benchの総合スコアは英語トラックで53.53、中国語トラックで53.38でした。両トラックでオープンソースモデルの最先端と報告されています。生成、編集、参照画像制御、二言語の文字描画を一つのファミリーにまとめた点は、個別機能の追加を超え、統合型の画像モデルへ向かう流れを示しています。

一方、提供資料では学習コスト、データのライセンス、機能ごとの詳細比較までは示されていません。今後は、公開レシピによる再現性や、複雑な編集・異なる解像度・実運用での安定性をコミュニティが検証する必要があります。それでも、重みだけでなくコードと学習手順を公開したことは、オープンな画像モデル研究にとって大きな意味を持ちます。

出典：Hugging Face Daily Papers