[論文レビュー] Stochastic Normalizing Flows

Liam Hodgkinson, Christopher van der Heide+2 more|arXiv (Cornell University)|Feb 21, 2020

Model Reduction and Neural Networks参考文献 38被引用数 44

ひとこと要約

荒ら Path 理論を用いて連続正規化フローを確率微分方程式へ拡張することにより、SDEsと潜在ブラウン運動を用いた密度推定、最尤推定、および変分推定を可能にする確率的正規化フローを導入する。Wong–Zakai近似を用いた乱数ODEとStratonovich SDEの理論的枠組みと実用的訓練法を提供し、確率的MCMCのハイパーパラメータ最適化への応用を含む。

ABSTRACT

We introduce stochastic normalizing flows, an extension of continuous normalizing flows for maximum likelihood estimation and variational inference (VI) using stochastic differential equations (SDEs). Using the theory of rough paths, the underlying Brownian motion is treated as a latent variable and approximated, enabling efficient training of neural SDEs as random neural ordinary differential equations. These SDEs can be used for constructing efficient Markov chains to sample from the underlying distribution of a given dataset. Furthermore, by considering families of targeted SDEs with prescribed stationary distribution, we can apply VI to the optimization of hyperparameters in stochastic MCMC.

研究の動機と目的

• SDEを用いて構築された生成モデルを CNF で近似する一般的枠組みを提供する。
• 連続正規化フローを rough path theory で確率的設定へ拡張し、SDEモデルの密度推定、MLE、変分近似を可能にする。
• Stratonovich SDEs、Wong–Zakai近似、乱数ODEを既存CNF実装内に統合した実用的な訓練手法を提供する。
• 確率的MCMC における密度推定とハイパーパラメータ最適化の応用を示す。

提案手法

• Z_t を Ito SDEs でモデル化し、ラフパス理論を用いてパスワイズな定式化へ変換する。
• Stratonovich 計算と Wong–Zakai 近似を用いて、SDEs を CNF 訓練可能な乱数ODEs に近似する。
• ラフパス設定で adjoint 法を適用し、確率的ダイナミクスをバックプロパゲーションする。
• 潜在的ブラウン運動近似で乱数ODEを条件付けし、モンテカルロ平均を用いて密度を推定。
• 再parameterization trick を活用した密度推定および VI の手法を、SDE駆動ダイナミクスを持つ乱数ODEに対して提案する。
• Wong–Zakai 近似の改善に伴う log-density および勾配の収束を定理2により保証するアルゴリズムと理論的保証を提供。

実験結果

リサーチクエスチョン

• RQ1 確率的微分方程式を CNF フレームワーク内の潜在モデルとして訓練・利用できるか。
• RQ2 rough path 理論を用いて CNF 風モデルにおけるSDEを厳密かつ実装可能なパスワイズ処理として提供できるか。
• RQ3 Stratonovich SDEs を乱数ODEs に近似して、訓練時の log-density と勾配計算を保持できるか。
• RQ4 これらの確率的正規化フローを用いた変分推論とサンプリング、確率的MCMC のハイパーパラメータ最適化にどう活用できるか。

主な発見

• 統一的な確率的正規化フロー基盤は CNF を SDEs に拡張する rough paths によって、SDE モデルの密度推定、MLE、VI を可能にする。
• Stratonovich SDE はパスワイズに rough differential equations として解釈され、CNF 訓練に適した乱数ODEs に近似される。
• Wong–Zakai 近似（Karhunen–Loève 展開と区分的線形近似）は、SDE ベースの CNF を訓練・評価する現実的な道筋を提供する。
• 主な結果（定理2）は、rough paths を微分可能なパスで近似したときの log-density と勾配の収束を示している。
• この枠組みは、非対角拡散と高次SDE解法の欠点を避けつつ、確率的随伴法を再現・拡張する。
• 数値実験は密度推定とサンプラーを示し、拡散を訓練可能とする2次元の toy 例で曲率への適応が改善されることを示す。