[論文レビュー] Matching Normalizing Flows and Probability Paths on Manifolds

Heli Ben-Hamu, Samuel M. Cohen+6 more|arXiv (Cornell University)|Jul 11, 2022

Generative Adversarial Networks and Image Synthesis被引用数 5

ひとこと要約

本稿では、訓練中にODEの解法を回避する確率経路発散（PPD）を最小化することで、多様体上での連続正規化フロー（CNF）の訓練を可能にする新規フレームワーク、CNFマッチング（CNFM）を提案する。PPDは、対象となる確率経路にCNFのフローをマッチングさせるために対数質量保存PDEを活用し、低次元および中程度次元の多様体（球面やロボットの状態空間をモデル化する積多様体を含む）において最先端の尤度スコアとサンプル品質を達成する。

ABSTRACT

Continuous Normalizing Flows (CNFs) are a class of generative models that transform a prior distribution to a model distribution by solving an ordinary differential equation (ODE). We propose to train CNFs on manifolds by minimizing probability path divergence (PPD), a novel family of divergences between the probability density path generated by the CNF and a target probability density path. PPD is formulated using a logarithmic mass conservation formula which is a linear first order partial differential equation relating the log target probabilities and the CNF's defining vector field. PPD has several key benefits over existing methods: it sidesteps the need to solve an ODE per iteration, readily applies to manifold data, scales to high dimensions, and is compatible with a large family of target paths interpolating pure noise and data in finite time. Theoretically, PPD is shown to bound classical probability divergences. Empirically, we show that CNFs learned by minimizing PPD achieve state-of-the-art results in likelihoods and sample quality on existing low-dimensional manifold benchmarks, and is the first example of a generative model to scale to moderately high dimensional manifolds.

研究の動機と目的

• 従来の尤度ベースの手法による多様体上でのCNF訓練における高い計算コストとスケーラビリティの限界を解消すること。
• Riemann多様体上でのCNFの効率的でODEフリーの訓練を可能にする発散測度の開発。
• 計算的・数値的制約により従来の手法が失敗する中程度高次元の多様体（例：S^15）における訓練を可能にすること。
• 多様体上でのノイズ分布からデータ分布へ滑らかに遷移する多様なターゲット経路に対応可能な柔軟なフレームワークの提供。

提案手法

• 確率経路発散（PPD）を提案。これは、CNFが生成する確率経路とターゲット経路との間の新たな発散であり、対数質量保存（LMC）PDEを用いて定義される。
• LMC PDEは、モデル経路の対数密度とCNFのベクトル場を結びつける。これにより、モデル密度の評価を伴わず、ベクトル場とその微分から直接PPDを計算可能となる。
• PPDは1つのパラメータℓ ≥ 1で定式化され、古典的発散を上界で抑えている：TV（ℓ=1）、α発散（1<ℓ<∞）、逆KL（ℓ=∞）。
• 本手法はPPDの最小化によりCNFを訓練するが、訓練中にODEを解く必要がなく、時間的・メモリ的コストを1〜2桁減少させる。
• 球面ではステレオグラフィック射影、ロボットの状態空間では積多様体を用いることで、多様体埋め込みデータを扱える。
• 柔軟なターゲット経路設計を採用。p_tは純粋なノイズからデータ分布へ遷移し、log p_tとその微分は解析的または数値的に計算可能である。

実験結果

リサーチクエスチョン

• RQ1 ODEフリーの訓練を可能にしつつ、高いモデル表現力も維持できるような発散を定義できるか？
• RQ2 PPDは非Euclid空間のCNFに対して、尤度ベースの訓練の理論的・スケーラブルな代替手段として有効か？
• RQ3 CNFMは低次元および中程度次元の多様体上での尤度とサンプル品質において最先端の性能を達成できるか？
• RQ4 PPDに基づく訓練は、S^15 やロボットキネマティクスをモデル化する積多様体のような高次元多様体へどのようにスケーリング可能か？

主な発見

• CNFMはS^1、S^2、S^15において最先端の対数尤度を達成し、S^15ではvMF混合モデルとS-FFJORDを上回る0.83のNLLスコアを記録した。
• S^15ではNLLを0.83まで低下させ、最良のvMF-MMベースライン（1.05）とS-FFJORD（1.15）を著しく上回った。
• CNFMの訓練時間はODEベースの尤度訓練と比較して1〜2桁の高速化が達成され、4K秒の訓練実行でも顕著な高速化が確認された。
• Cheetah、Walker、Humanoidのロボット状態空間をモデル化する積多様体上でも、質的に現実的なサンプルを生成でき、ノイズからデータへの滑らかな遷移が得られた。
• MNIST（d=784）のような高次元でも勾配推定のバイアスが生じるが、CNFMは安定に動作し、妥当なサンプルを生成した。これは近似誤差に対しても頑健であることを示している。
• PPDが古典的発散（TV、α発散、逆KL）を上界で抑えていることが示され、訓練目的としての理論的妥当性が裏付けられた。