[論文レビュー] Efficient Gradient-Based Inference through Transformations between Bayes Nets and Neural Nets

Diederik P. Kingma, Max Welling|arXiv (Cornell University)|Feb 3, 2014

Gaussian Processes and Bayesian Inference参考文献 32被引用数 39

ひとこと要約

この論文は、ベイジアンネットワークおよびニューラルネットワークにおける潜在変数の中心化・非中心化パラメータ化の間を微分可能に変換する再パrameter化技術を導入し、勾配ベースの推論を効率化する。主な貢献は、非中心化パラメータ化が事後分布の相関を低減し、特に高次元または高相関モデルにおいてサンプリング効率を向上させることを示したことである。

ABSTRACT

Hierarchical Bayesian networks and neural networks with stochastic hidden units are commonly perceived as two separate types of models. We show that either of these types of models can often be transformed into an instance of the other, by switching between centered and differentiable non-centered parameterizations of the latent variables. The choice of parameterization greatly influences the efficiency of gradient-based posterior inference; we show that they are often complementary to eachother, we clarify when each parameterization is preferred and show how inference can be made robust. In the non-centered form, a simple Monte Carlo estimator of the marginal likelihood can be used for learning the parameters. Theoretical results are supported by experiments.

研究の動機と目的

• 潜在変数の事後分布の相関が高いため、階層ベイジアンネットワークやディープ生成モデルにおける勾配ベース推論が非効率である問題に対処する。
• 連続的潜在変数の再パラメータ化を通じて、ベイジアンネットワークとニューラルネットワークの双対性を調査する。
• 非中心化パラメータ化（DNCP）が事後依存性を低減し、サンプリング効率を向上させることを実証する。
• 異なるモデルの状態に応じてパラメータ化を切り替えることで、あらゆる状況で効率を維持する強固な推論戦略を開発する。
• ディープ生成モデルにおけるエンドツーエンド学習を可能にする微分可能な周辺尤度推定を実現する。

提案手法

• 潜在変数をノイズ変数とパラメータの決定的関数として表現する微分可能な非中心化パラメータ化（DNCP）を導入：$\mathbf{z}_j = g_j(\mathbf{pa}_j, \boldsymbol{\epsilon}_j, \boldsymbol{\theta})$。
• 再パラメータ化トリックを用いて、モデルパラメータに関して周辺尤度の対数を微分可能とし、バックプロパゲーションを可能にする。
• 滑らかな勾配を活用して、DNCP形式における事後分布推論にハイブリッドモンテカルロ（HMC）およびno-U-turnサンプラーを適用する。
• パラメータ学習のため、DNCPにおける周辺尤度のモンテカルロ推定を勾配上昇法に適用する。
• 高相関状態において混合性を向上させるために、中心化形式と非中心化形式を交互に切り替える混合MCMC戦略を設計する。
• MNISTに適用して、深層生成モデルの学習における最大モンテカルロ尤度（MMCL）とMCEMを実装・比較する。

実験結果

リサーチクエスチョン

• RQ1 階層モデルにおける事後分布の相関は、潜在変数のパラメータ化にどのように依存するか？
• RQ2 非中心化パラメータ化が、勾配ベース推論における事後依存性を低減し、サンプリング効率を向上させられるか？
• RQ3 どのような状況で非中心化パラメータ化が中心化形式よりも優れているか？
• RQ4 パラメータ化を切り替えるハイブリッドMCMC戦略は、高次元モデルにおけるロバスト性と混合性を向上させられるか？
• RQ5 微分可能な周辺尤度推定の性能は、ディープ生成モデルにおける従来のMCEMと比べてどうか？

主な発見

• 潜在変数が親ノードに強く影響を受ける場合、非中心化パラメータ化（DNCP）は事後分布の相関を顕著に低減し、HMCにおける混合速度を向上させる。
• 潜在変数の分散が小さい場合（$\sigma_z^2 \to 0$）、中心化パラメータ化（CP）は非常に高い事後分布相関を示し、HMCの混合が遅くなる。
• DNCP形式により、モデルパラメータに関して微分可能な単純なモンテカルロ推定を用いた勾配ベース学習が可能になる。
• 500サンプルで実行したMMCLは、MNISTにおける周辺尤度で競争力のある性能を示し、学習速度と大規模データへのスケーラビリティにおいてMCEMを上回った。
• 高次元の潜在空間では混合が遅くなるものの、同じ条件下でCPに比べてDNCPがより良い収束を示した。
• 理論的分析により、事後分布の相関がCPとDNCPで補完的であることが確認された：一方が高相関であれば他方は低相関であり、パラメータ化の切り替えによって強固なMCMCが実現可能である。