[論文レビュー] Learning normalizing flows from Entropy-Kantorovich potentials

Christopher C. Finlay, Augusto Gerolin+2 more|arXiv (Cornell University)|Jun 10, 2020

Model Reduction and Neural Networks参考文献 7被引用数 5

ひとこと要約

本稿では、最適輸送におけるエントロピー正則化を用いて、微分方程式の解法を伴わず、スカラーポテンシャル関数を用いることで、連続的正規化フロー（CNF）を学習する新規手法を提案する。この手法では、学習中に常微分方程式（ODE）を解くことなく、ポテンシャル関数のみを最適化することで、閉形式での高次元推論およびフロー回復が可能になる。

ABSTRACT

We approach the problem of learning continuous normalizing flows from a dual perspective motivated by entropy-regularized optimal transport, in which continuous normalizing flows are cast as gradients of scalar potential functions. This formulation allows us to train a dual objective comprised only of the scalar potential functions, and removes the burden of explicitly computing normalizing flows during training. After training, the normalizing flow is easily recovered from the potential functions.

研究の動機と目的

• ベクトル場の直接最適化やODEソルバーの使用を避けることで、良好に動作する連続的正規化フロー（CNF）の訓練の課題に対処する。
• エントロピー正則化最適輸送に基づく双対定式化を用いて、CNFの計算負荷と不安定性を克服する。
• スカラーポテンシャル関数によるフローの暗黙的パラメータ化を通じて、高次元密度推定と生成的モデリングを可能にする。
• ヒートカーネル近似のためのモンテカルロ統合を用いて、メッシュフリーでスケーラブルな訓練手順を実現する。
• 推論時にODEを解くことなく、訓練済みのポテンシャルから完全な正規化フローと対数尤度を閉形式で回復できるようにする。

提案手法

• エントロピー正則化最適輸送から導かれるエントロピー・カンタロヴィッチ・ポテンシャル φ と ψ を用いて、CNFをスカラーポテンシャル関数の勾配として定式化する。
• ベクトル場を $ v_t(x) = \nabla \frac{1}{2}(\varphi_t(x) - \psi_t(x)) $ として定義し、ここで $ \varphi_t $ と $ \psi_t $ はヒートカーネルを介して時間発展するポテンシャル関数である。
• 密度の流れを $ \log \rho_t(x) = (\varphi_t(x) + \psi_t(x)) / \varepsilon $ として表現することで、閉形式での密度推定を可能にする。
• ODE統合を回避するため、データとノイズサンプルの上での確率的最適化を用いてポテンシャル $ \varphi $ と $ \psi $ を訓練する双対目的を定式化する。
• ヒートカーネル操作をモンテカルロサンプリングで近似することで、スケーラブルで微分可能かつ高次元な計算が可能になる。
• 補助変数と $ L_2 $-正則化を用いて最適性条件を強化し、双対目的における訓練の安定性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 最適輸送における双対定式化を活用することで、基礎となるODEを解かずに連続的正規化フローを訓練できるか？
• RQ2 エントロピー正則化最適輸送を用いて、ベクトル場の代わりにスカラーポテンシャル関数によってCNFをパラメータライズできるか？
• RQ3 ヒートカーネル操作のモンテカルロ近似により、メッシュベースの離散化を用いず、スケーラブルで高次元なCNFの訓練が可能になるか？
• RQ4 エントロピー・カンタロヴィッチ・ポテンシャルの使用が、CNFに基づく密度推定における訓練の安定性と一般化性能をどの程度向上させるか？
• RQ5 双対最適化フレームワークは、訓練時に明示的なフローのシミュレーションを行わずに、正確な正規化フローと対数尤度を回復できるか？

主な発見

• 本手法は、学習中にODEを解くことなく、エントロピー・カンタロヴィッチ・ポテンシャルからCNFを効率的かつスケーラブルに学習可能である。
• 回復されたフローは、チェッカーボードなど不連続な分布を含む低次元トピック分布に対しても、高品質なサンプル生成と密度推定を達成している。
• エントロピー正則化（ε=1）のため、推定された対数密度はぼやけた外観を示すが、生成されたサンプルは依然として集中しており正確である。
• ヒートカーネル操作のためのモンテカルロ統合を用いることで、メッシュフリーで微分可能かつ高次元なベクトル場の計算が可能になる。
• 補助変数と $ L_2 $-正則化を含む双対最適化フレームワークにより、訓練の安定性が向上し、ポテンシャルの収束性が改善される。
• 訓練後、ODEソルバーを用いずに密度および正規化フローの閉形式計算が可能となり、推論時に特別な計算を要しない。