[論文レビュー] Deep Markov Chain Monte Carlo

Babak Shahbaba, Luis Martinez Lomeli+2 more|arXiv (Cornell University)|Oct 13, 2019

Markov Chains and Monte Carlo Methods参考文献 30被引用数 6

ひとこと要約

本稿では、高次元パrameter空間を低次元の潜在空間に写像するためにオートエンコーダーを用いる、計算的に効率的なベイズ推論手法であるDeep MCMCを提案する。この手法では、ハミルトニアン・モンテカルロ（HMC）サンプリングを低次元の潜在空間で実行することで、高速なサンプリングを実現する。体積補正付きメトロポリス・ハスティングスの受容ステップにより、精度を保持しつつ、次元削減された空間を探索する。実験的結果により、高次元問題において顕著な計算コストの削減が得られた。

ABSTRACT

We propose a new computationally efficient sampling scheme for Bayesian inference involving high dimensional probability distributions. Our method maps the original parameter space into a low-dimensional latent space, explores the latent space to generate samples, and maps these samples back to the original space for inference. While our method can be used in conjunction with any dimension reduction technique to obtain the latent space, and any standard sampling algorithm to explore the low-dimensional space, here we specifically use a combination of auto-encoders (for dimensionality reduction) and Hamiltonian Monte Carlo (HMC, for sampling). To this end, we first run an HMC to generate some initial samples from the original parameter space, and then use these samples to train an auto-encoder. Next, starting with an initial state, we use the encoding part of the autoencoder to map the initial state to a point in the low-dimensional latent space. Using another HMC, this point is then treated as an initial state in the latent space to generate a new state, which is then mapped to the original space using the decoding part of the auto-encoder. The resulting point can be treated as a Metropolis-Hasting (MH) proposal, which is either accepted or rejected. While the induced dynamics in the parameter space is no longer Hamiltonian, it remains time reversible, and the Markov chain could still converge to the canonical distribution using a volume correction term. Dropping the volume correction step results in convergence to an approximate but reasonably accurate distribution. The empirical results based on several high-dimensional problems show that our method could substantially reduce the computational cost of Bayesian inference.

研究の動機と目的

• 従来のMCMC手法が高次元ベイズ推論において計算的に非効率であるという問題に取り組む。
• 高次元パrameter空間における低次元構造を活用して、より高速なサンプリングを実現する。
• 次元削減とハミルトニアン力学を組み合わせたスケーラブルなサンプリングフレームワークを開発する。
• 精度と計算速度のバランスを取った、MCMCおよび変分ベイズの実用的代替手法を提供する。
• ビッグデータ環境下での複雑な後方分布の効率的探索を可能にする。

提案手法

• 訓練済みのオートエンコーダーを用いて、元の高次元パrameter空間を低次元の潜在空間に写像する。
• 元の空間からの初期サンプルを用いて、オートエンコーダーのエンコーダーとデコーダーの各部を学習する。
• エンコーダーは元の空間の初期状態を潜在空間内の点に写像し、これがHMCサンプリングの出発点として機能する。
• HMCを潜在空間で適用して新たな状態を生成し、その後オートエンコーダーのデコーダーを用いて元の空間に復元する。
• 復元された点をメトロポリス・ハスティングスの提案分布として用い、非線形変換に起因する体積変化を補正した受容確率を計算する。
• 体積補正を適用した場合、詳細つり合いが保たれ、真の後方分布への収束が保証される。補正を省略した場合は、近似後方分布への収束となるが、計算がより高速である。

実験結果

リサーチクエスチョン

• RQ1 オートエンコーダーによる次元削減が、高次元ベイズモデルにおけるMCMCサンプリングの効率を向上させ得るか？
• RQ2 体積補正を加えた場合、元の空間における誘導された力学的ダイナミクスは、標準的なHMCと比較して混合性や収束性にどのように影響するか？
• RQ3 体積補正項を省略した場合、サンプリングプロセスの精度と計算コストにどのような影響が生じるか？
• RQ4 潜在空間表現が、複雑なモデルにおける後方分布の本質的構造をどの程度正確に捉えられるか？
• RQ5 本手法は、実データおよびシミュレートされた高次元問題において、標準MCMCおよび変分ベイズと比較してどの程度の性能を示すか？

主な発見

• 提案されたDeep MCMC手法は、低次元の潜在空間でHMCを実行することにより、高次元ベイズ推論における計算コストを顕著に削減する。
• 体積補正を適用した場合、詳細つり合いが保たれ、真の後方分布への収束が保証される。
• 体積補正ステップを省略すると、近似後方分布への収束が得られるが、依然として十分な精度を維持しており、計算がより高速である。
• シミュレートおよび実データに対する実験的結果により、標準MCMC手法と比較して顕著な高速化が確認された。
• 本手法は、高次元パrameter空間における低次元構造を効果的に活用し、より速い混合性とより効率的な探索が可能である。
• オートエンコーダーを用いた潜在空間の学習は、MCMCサンプリングに適した柔軟かつデータ駆動型の次元削減アプローチを提供する。