[論文レビュー] Geometrically Tempered Hamiltonian Monte Carlo

Akihiko Nishimura, David B. Dunson|arXiv (Cornell University)|Apr 4, 2016

Markov Chains and Monte Carlo Methods参考文献 32被引用数 11

ひとこと要約

本稿では、多モーダルな事後分布におけるモード間のエネルギー障壁を低減するために特別に設計された計量を用いる、幾何的温度調整付きハミルトニアンモンテカルロ（GTHMC）という、Riemann多様体HMCの新規変種を紹介する。外在的幾何学と可変ステップサイズ積分法を活用することで、GTHMCはモード間を効率的に遷移可能となり、標準HMCおよびRMHMCと比較して、多モーダルな状況下で有効サンプルサイズが著しく向上する。

ABSTRACT

Hamiltonian Monte Carlo (HMC) has become routinely used for sampling from posterior distributions. Its extension Riemann manifold HMC (RMHMC) modifies the proposal kernel through distortion of local distances by a Riemannian metric. The performance depends critically on the choice of metric, with the Fisher information providing the standard choice. In this article, we propose a new class of metrics aimed at improving HMC's performance on multi-modal target distributions. We refer to the proposed approach as geometrically tempered HMC (GTHMC) due to its connection to other tempering methods. We establish a geometric theory behind RMHMC to motivate GTHMC and characterize its theoretical properties. Moreover, we develop a novel variable step size integrator for simulating Hamiltonian dynamics to improve on the usual Störmer-Verlet integrator which suffers from numerical instability in GTHMC settings. We illustrate GTHMC through simulations, demonstrating generality and substantial gains over standard HMC implementations in terms of effective sample sizes.

研究の動機と目的

• 標準HMCおよびRMHMCが多モーダル事後分布において、モード間の高いエネルギー障壁のため混合が悪いという問題に対処すること。
• モード間のエネルギー障壁を低減する幾何的に動機づけられた計量の開発。これにより、モード間の遷移頻度が向上する。
• 外在的幾何学を用いたRMHMCの厳密な幾何理論の確立。これにより、手法の直感的で分かりやすい理解が可能になる。
• GTHMCにおける数値的不安定性を克服する可変ステップサイズ積分法の設計。これにより、軌道の精度が向上する。
• GTHMCが多モーダルサンプリング問題において、標準HMCおよびRMHMCと比較して顕著に高い有効サンプルサイズを達成することの実証。

提案手法

• 多モーダル事後分布におけるモード間のエネルギー障壁を低減するように設計された、Riemann計量の新クラスを提案。これにより、ハミルトニアン力学がモード間をより容易に遷移できるようになる。
• 外在的幾何学を用いてRMHMCの幾何理論を導出し、内在的幾何学的手法と比較して、より明確な直感的洞察と明示的な式表現を提供する。
• GTHMC設定において、局所的な曲率に適応する可変ステップサイズ積分法を導入。これにより、数値的安定性が向上する。
• 可変ステップサイズに適合する修正された受容・棄却メカニズムを採用。これにより、サンプリング効率が向上する。
• 新しい計量下でのハミルトニアン力学を、$ H(\bm{\theta}, \mathbf{p}) = -\log\pi(\bm{\theta}) + \frac{1}{2}\log|\mathbf{G}(\bm{\theta})| + \frac{1}{2}\mathbf{p}^T\mathbf{G}(\bm{\theta})^{-1}\mathbf{p} $ として導出。ここで $ \mathbf{G} $ は提案された計量である。
• シミュレーションを通じて、特に挑戦的な多モーダルなターゲットにおいて、有効サンプルサイズの向上が確認された。

実験結果

リサーチクエスチョン

• RQ1 多モーダル事後分布におけるモード間のエネルギー障壁を低減するRiemann計量を設計可能か。これによりHMCにおける混合が向上するか。
• RQ2 外在的幾何学を用いてRMHMCの幾何理論を再定式化することで、より直感的かつ明示的な結果が得られるか。
• RQ3 提案された幾何的温度調整下でのハミルトニアン力学をシミュレートするにあたり、数値的安定性と精度を保証する積分スキームは何か。
• RQ4 GTHMCの性能は、多モーダル分布における有効サンプルサイズという観点から、標準HMCおよびRMHMCと比較してどのように異なるか。
• RQ5 可変ステップサイズ積分法および改善された受容・棄却メカニズムは、他のHMC変種へ一般化可能か。

主な発見

• GTHMCは、多モーダル事後分布において、標準HMCおよびRMHMCと比較して顕著に高い有効サンプルサイズを達成しており、混合性能が優れていることが示された。
• 提案された幾何的温度調整計量は、モード間のエネルギー障壁を効果的に低減し、ハミルトニアン軌道がモード間をより頻繁に遷移可能にした。
• 可変ステップサイズ積分法は、GTHMC設定において、標準的なStörmer-Verletスキームを上回る性能を示し、数値的不安定性を低減した。
• 外在的幾何的定式化により、内在的幾何学的手法と比較して、RMHMC力学の理解がより明確で直感的になった。
• 可変ステップサイズに適合した受容・棄却メカニズムは、サンプリング効率を向上させ、他のHMC変種へも一般化可能である。
• シミュレーションにより、GTHMCが多様な多モーダルターゲット分布に一般化できることを確認。有効サンプルサイズの向上が一貫して得られた。