[論文レビュー] The Geometry of Hamiltonian Monte Carlo

Michael Betancourt, Leo C. Stein|arXiv (Cornell University)|Dec 18, 2011

Markov Chains and Monte Carlo Methods参考文献 4被引用数 8

ひとこと要約

この論文は、シンプレクティック幾何学を用いて、ハミルトニアン・モンテカルロ（HMC）の幾何的枠組みを構築し、可承认なハミルトニアン関数の一般クラスを同定することで、効率的なHMCアルゴリズムの体系的構築を可能にする。主な貢献は、ハミルトニアンを保存し、詳細釣合を保証する、制約付き多様体における一般化された反射則の導出であり、ベイズ推論における複雑な事後分布幾何にHMCを拡張する。

ABSTRACT

With its systematic exploration of probability distributions, Hamiltonian Monte Carlo is a potent Markov Chain Monte Carlo technique; it is an approach, however, ultimately contingent on the choice of a suitable Hamiltonian function. By examining both the symplectic geometry underlying Hamiltonian dynamics and the requirements of Markov Chain Monte Carlo, we construct the general form of admissible Hamiltonians and propose a particular choice with potential application in Bayesian inference.

研究の動機と目的

• シンプレクティック幾何学を用いて、ハミルトニアン・モンテカルロ（HMC）の背後にある一般的な幾何的構造を確立すること。
• HMCにおける適切なマコフ遷移核を生成するためのハミルトニアン関数に必要な条件を同定すること。
• 制約付き多様体における一般化された反射則を導出すること。この反射則はハミルトニアンを保存し、詳細釣合を保証する。
• HMCを標準的な物理的ハミルトニアンの範囲を超えて、ベイズ推論における任意の確率分布へと拡張すること。
• 複雑な曲がったパrameter空間における効率的なHMCアルゴリズムの構築のための原則的かつ体系的な手法を提供すること。

提案手法

• 滑らかな多様体の接束および余接束を形式化し、HMCにおける配置空間および位相空間を定義すること。
• 余接束上にシンプレクティック形式を導入し、ハミルトニアン力学の内在的幾何的構造を捉えること。
• シンプレクティック構造との整合性および詳細釣合の要請に基づき、可承认ハミルトニアンの一般形を導出すること。
• 制約 $C(\mathbf{q}) = 0$ で定義される境界に対して、運動量を法線方向への射影に基づいて一般化された鏡面反射則を提案すること。
• リーマン計量 $\mathbf{\Lambda}^{-1}$ を用いて、一般化された運動エネルギー項 $T(\mathbf{q}, \mathbf{p}) = \frac{1}{2} \sum_{ij} p_i p_j \Lambda^{ij}(\mathbf{q}) + \tau_2(\mathbf{q})$ を定義すること。
• 境界 $C(\mathbf{q}) = 0$ における運動量更新 $\Delta\mathbf{p} = -2(\hat{\mathbf{n}}, \mathbf{p})_{\mathbf{\Lambda}} \hat{\mathbf{n}}$ を導出すること。この更新則はハミルトニアンの不変性を保証する。

実験結果

リサーチクエスチョン

• RQ1 HMCにおける有効で適切なマコフ遷移核を生成する、最も一般なハミルトニアン関数のクラスは何か？
• RQ2 ハミルトニアン力学を、詳細釣合およびハミルトニアンの保存を保ちつつ、制約付き多様体へ体系的に拡張する方法は何か？
• RQ3 HMCの効率性の背後にある幾何的構造は何か？ そして、この構造はより良いサンプリングアルゴリズムの設計にどのように活用できるか？
• RQ4 標準的なケースを超えて、任意の運動エネルギー項に対して、境界における反射則をどのように一般化できるか？
• RQ5 シンプレクティック構造は、ベイズ推論における複雑な事後分布の効率的探索を保証するために果たす役割は何か？

主な発見

• 可承认ハミルトニアンの一般形は、シンプレクティック幾何学および詳細釣合の要請に基づき決定され、HMCアルゴリズムの体系的設計を可能にする。
• 一般化された反射則 $\Delta\mathbf{p} = -2(\hat{\mathbf{n}}, \mathbf{p})_{\mathbf{\Lambda}} \hat{\mathbf{n}}$ が導出され、これは任意の制約 $C(\mathbf{q}) = 0$ においてハミルトニアンを保存し、詳細釣合を保証する。
• この反射則は $\mathbf{\Lambda} = \mathbf{I}$ のとき古典的な鏡面反射に還元され、既知の物理的ケースと整合することが確認される。
• この手法は、形式 $T(\mathbf{q}, \mathbf{p}) = \tau(\sum_{ij} p_i p_j \Lambda^{ij}(\mathbf{q})) + \tau_2(\mathbf{q})$ の一般化された運動エネルギー項に適用可能であり、HMCを二次形式を超えて拡張する。
• 幾何的枠組みにより、HMCは制約付きの非自明な曲がったパrameter空間に対しても、依然として有効かつ効率的であることが保証される。
• 導出結果から、HMCの効率性は特定のハミルトニアンに起因するのではなく、位相空間の背後にあるシンプレクティック構造に起因することが確認された。