[論文レビュー] Riemannian Manifold Hamiltonian Monte Carlo

Mark Girolami, Ben Calderhead+1 more|arXiv (Cornell University)|Jul 6, 2009

Markov Chains and Monte Carlo Methods参考文献 31被引用数 27

ひとこと要約

本稿では、パラメータ空間のリーマン幾何学を活用して、計量テンソルを用いて提案分布を自動的に調整する、完全に自動化されたMCMCサンプラーであるリーマン多様体ハミルトニアンモンテカルロ（RMHMC）を紹介する。非分離ハミルトニアンに対しても、半明示的2次シンプレクティック積分法を用いることで、RMHMCは優れた収束性と探索効率を達成し、ロジスティック回帰、ポイント過程、確率的ボラティリティ、力学系モデルにおける高次元で相関の強い事後分布において、時間正規化された有効サンプルサイズ（ESS）を顕著に向上させる。

ABSTRACT

The paper proposes a Riemannian Manifold Hamiltonian Monte Carlo sampler to resolve the shortcomings of existing Monte Carlo algorithms when sampling from target densities that may be high dimensional and exhibit strong correlations. The method provides a fully automated adaptation mechanism that circumvents the costly pilot runs required to tune proposal densities for Metropolis-Hastings or indeed Hybrid Monte Carlo and Metropolis Adjusted Langevin Algorithms. This allows for highly efficient sampling even in very high dimensions where different scalings may be required for the transient and stationary phases of the Markov chain. The proposed method exploits the Riemannian structure of the parameter space of statistical models and thus automatically adapts to the local manifold structure at each step based on the metric tensor. A semi-explicit second order symplectic integrator for non-separable Hamiltonians is derived for simulating paths across this manifold which provides highly efficient convergence and exploration of the target density. The performance of the Riemannian Manifold Hamiltonian Monte Carlo method is assessed by performing posterior inference on logistic regression models, log-Gaussian Cox point processes, stochastic volatility models, and Bayesian estimation of parameter posteriors of dynamical systems described by nonlinear differential equations. Substantial improvements in the time normalised Effective Sample Size are reported when compared to alternative sampling approaches. Matlab code at \url{http://www.dcs.gla.ac.uk/inference/rmhmc} allows replication of all results.

研究の動機と目的

• 高次元で相関のある事後分布において、既存のモンテカルロ手法の非効率性を解消すること。
• メトロポリス＝ハスティングス法およびハイブリッドモンテカルロ法における提案分布のチューニングに必要な高コストなパイロットランを排除すること。
• パラメータ空間の局所的幾何構造に動的に適応する完全に自動化された適応メカニズムを開発すること。
• 高次元におけるマーカフ連鎖の遷移期および定常期の両方において、効率的なサンプリングを可能にすること。
• 多様な統計モデルにおける時間正規化有効サンプルサイズ（ESS）の向上を図ること。

提案手法

• パラメータ空間のリーマン多様体構造を用い、局所的幾何をフィッシャー情報計量が定義する。
• 各ステップで計量テンソルを用いて提案分布を適応的に調整するハミルトニアンモンテカルロサンプラーを構築し、局所的曲率に最適なスケーリングを保証する。
• 非分離ハミルトニアンに対しても、多様体上での軌道をシミュレートできる半明示的2次シンプレクティック積分法を導出する。
• 積分法はシンプレクティック構造を保存するため、長期的な安定性と正確なサンプリングを保証する。
• アルゴリズムは、マーカフ連鎖の遷移期および定常期における異なるスケーリング要件に自動的に適応する。
• 本手法はMATLABで実装されており、完全な再現性を確保するため、http://www.dcs.gla.ac.uk/inference/rmhmc で公開されている。

実験結果

リサーチクエスチョン

• RQ1 事後分布の局所的リーマン多様体幾何に自動的に適応するハミルトニアンモンテカルロサンプラーを設計できるか？
• RQ2 RMHMCは、高次元で相関のあるモデルにおいて、標準的HMCおよびMALAと比較してどのように性能を発揮するか？
• RQ3 非分離ハミルトニアンに対する提案されたシンプレクティック積分法は、複雑な事後分布幾何においても正確性と効率性を維持できるか？
• RQ4 多様な統計モデルにおいて、RMHMCは時間正規化有効サンプルサイズ（ESS）をどの程度向上させるか？
• RQ5 自動適応メカニズムにより、MCMCサンプリングにおける手動チューニングやパイロットランの必要性が排除できるか？

主な発見

• RMHMCは、すべてのテストモデルにおいて、他のサンプリング手法と比較して時間正規化有効サンプルサイズ（ESS）に顕著な向上を達成する。
• 本手法により、特にロジスティック回帰や確率的ボラティリティのようなモデルにおいて、強い相関を持つ高次元事後分布の効率的探索が可能になる。
• 半明示的シンプレクティック積分法により、曲がった多様体上でのハミルトニアン力学の安定的かつ正確なシミュレーションが保証される。
• 計量テンソルによる自動適応により、パイロットランや提案分布の手動チューニングの必要性が排除される。
• 非線形微分方程式によって定義されるような、複雑で非線形なパrameter依存性を示すモデルにおいて、性能向上が特に顕著に現れる。
• 提供されたMATLAB実装を用いることで、すべての結果が再現可能である。