ランダムクロックで重い裾を扱う新しい Flow Matching

導入

現実のデータは、必ずしもガウス分布のように穏やかではない。ロングテールな画像データ、金融リターン、極端気象などでは、頻度の低いサンプルが大きな意味を持つ。ところが多くの拡散モデルや Flow Matching は、扱いやすさを理由にガウスノイズやガウス源分布から生成過程を始める。

arXiv 論文「Heavy-Tailed Flow Matching via Random Clocks」は、この前提を見直す。提案手法 HTFM は、重い裾を持つ源分布を、ランダムクロックで条件付けられたガウス源の混合として表現する枠組みである。

核心ポイント

• ガウス源の限界に向き合う：標準的な Flow Matching は訓練目標を簡潔にできる一方、長い尾や極端値を持つデータには帰納バイアスが合わない可能性がある。
• ランダムクロックによる表現：あるクロック経路を固定すると、源分布とフローはガウス的に扱える。クロックを周辺化すると、ガウス尺度混合となり、ガウス、α-stable、Student-t などの分布族を含められる。
• 経路情報を logsignature で圧縮：クロックは経路値の情報なので、そのままニューラルネットに入力するのは容易ではない。論文では truncated logsignature 特徴を使い、速度場が実現された条件空間に応じて変化できるようにしている。
• 低 NFE の利点を維持：Flow Matching の魅力の一つは、比較的少ない関数評価回数でサンプリングできる点にある。HTFM は重尾表現を追加しつつ、この効率性を維持するとされる。
• 複数の重尾シナリオで検証：実験は、2 次元の不均衡 α-stable 混合、CIFAR10-LT、HRRR 気象場で行われた。著者らは、ガウス Flow Matching や競合する重尾ベースラインに比べ、モード被覆、サンプル品質、尾部統計の回復で改善を報告している。

意義と影響

HTFM の面白さは、単にノイズ分布を変えたことではない。条件付きではガウスとして扱える構造を残しながら、周辺化によって重い裾を表現する点にある。これにより、理論的な扱いやすさと、現実のデータが持つ極端な振る舞いの両方に対応しようとしている。

さらに、論文は尾部の強さを調整するインターフェースにも触れている。クロックの法則や尾部パラメータを変えるだけで、同じアーキテクチャのまま生成分布の「裾の重さ」を調整できるという。これは、極端気象のシミュレーション、リスク分析、ロングテールカテゴリの生成などで有用になり得る。

現時点での情報は主に論文要旨と arXiv ページに基づくため、詳細な指標、ベースライン設定、logsignature の設計、実用規模での安定性は本文で確認する必要がある。それでも HTFM は、生成モデルが常にガウス的な出発点に縛られる必要はないことを示す、興味深い提案といえる。

出典：arXiv