[論文レビュー] Microcanonical Hamiltonian Monte Carlo

Jakob Robnik, G. Bruno De Luca+2 more|arXiv (Cornell University)|Dec 16, 2022

Markov Chains and Monte Carlo Methods被引用数 12

ひとこと要約

この論文は、標準的なHMCで用いられる正準集合ではなく、固定エネルギーのハミルトニアン力学に従って進化する、新しいサンプリング手法であるマイクロカノニカルハミルトニアンモンテカルロ（MCHMC）を紹介する。ハミルトニアンを調整することで運動量の周辺分布が目的の分布に一致するようにし、次元数および条件数の面で優れたスケーリングを達成し、効率的なハイパーパrameterチューニング手法を用いて、ベンチマーク問題においてNUTS-HMCをはるかに上回る性能を発揮する。

ABSTRACT

We develop Microcanonical Hamiltonian Monte Carlo (MCHMC), a class of models which follow a fixed energy Hamiltonian dynamics, in contrast to Hamiltonian Monte Carlo (HMC), which follows canonical distribution with different energy levels. MCHMC tunes the Hamiltonian function such that the marginal of the uniform distribution on the constant-energy-surface over the momentum variables gives the desired target distribution. We show that MCHMC requires occasional energy conserving billiard-like momentum bounces for ergodicity, analogous to momentum resampling in HMC. We generalize the concept of bounces to a continuous version with partial direction preserving bounces at every step, which gives an energy conserving underdamped Langevin-like dynamics with non-Gaussian noise (MCLMC). MCHMC and MCLMC exhibit favorable scalings with condition number and dimensionality. We develop an efficient hyperparameter tuning scheme that achieves high performance and consistently outperforms NUTS HMC on several standard benchmark problems, in some cases by more than an order of magnitude.

研究の動機と目的

• 標準的なHMCで用いられる正準集合とは対照的に、固定エネルギー（マイクロカノニカル）ハミルトニアン力学に基づくMCMCサンプラーの新クラスを開発すること。
• 高次元および悪条件問題における正準HMCの限界を克服するため、エネルギー保存則を強制し、混合性を向上させること。
• HMCにおける運動量再サンプリングを、エネルギー保存型運動量バウンスに一般化し、定常エネルギー面上でのエルゴディックサンプリングを可能にすること。
• 非ガウスノイズを有する連続的で、減衰したラングジュアン型の変種（MCLMC）を導入し、エネルギーを保存するとともにサンプリング効率を向上させること。
• MCHMCおよびMCLMCが次元数および条件数の面で良好なスケーリングを示し、NUTS-HMCのような最先端の手法を凌駆することを実証すること。

提案手法

• 相空間における固定エネルギー超曲面上の一様分布からサンプリングを行うマイクロカノニカルハミルトニアンモンテカルロ（MCHMC）を提案する。
• ハミルトニアンを調整することで、運動量上の周辺分布が目的の分布 $ p(\mathbf{x}) $ を再現するようにし、制約 $ H(\mathbf{x}, \boldsymbol{\Pi}) = E $ を用いる。
• HMCにおける運動量再サンプリングの連続的アナログとして、各ステップで運動量バウンスを導入し、エネルギー面上でのエルゴディック性を保証する。
• 部分的に方向を保つバウンスを持つ、非ガウス的でエネルギー保存型の減衰したラングジュアンダイナミクスの変種（MCLMC）を構築する。
• MCHMCのリーマン幾何学的定式化を導出し、エネルギー保存型の測地線流れに等価であることを示す。その計量は $ g_{ij} \propto (E - V(\mathbf{x}))^{2/q} \delta_{ij} $ で与えられる。
• MCHMCが標準ベンチマークでNUTS-HMCを一貫して上回る性能を発揮するためのハイパーパrameterチューニング手法を導入する。

実験結果

リサーチクエスチョン

• RQ1 固定エネルギーハミルトニアン力学を用いて、高次元および悪条件問題において正準HMCを凌駆する効率的なMCMCサンプラーを構築できるか？
• RQ2 運動量再サンプリングを用いずにマイクロカノニカルサンプリングにおけるエルゴディック性をどのように保証できるか？この文脈における運動量バウンスの役割は何か？
• RQ3 マイクロカノニカルサンプリングとリーマン多様体上の測地線流れとの関係は何か？この関係を活用して新たなサンプラーを設計できるか？
• RQ4 MCHMCおよびその変種MCLMCの性能は、次元数および条件数の面で、NUTS-HMCのような既存の手法と比較してどのようにスケーリングするか？
• RQ5 非ガウス的ノイズを有する連続的でエネルギー保存型のダイナミクスを構築できるか？また、詳細つり合いを維持し、高い混合効率を達成できるか？

主な発見

• MCHMCは、標準ベンチマークにおいてNUTS-HMCをはるかに上回る性能を発揮し、サンプリング効率が桁違いに向上する。
• この手法は次元数および条件数の両面で良好なスケーリングを示し、高次元および悪条件の目標分布において正準HMCを凌駆する。
• エネルギー保存型運動量バウンスは、MCHMCにおけるエルゴディック性を確保するために不可欠であり、HMCにおける運動量再サンプリングに類似しているが、エネルギーを正確に保存する。
• 連続的変種であるMCLMCは、減衰したエネルギー保存型ダイナミクスを提供し、非ガウス的ノイズを有することで混合性およびサンプリング効率を向上させる。
• リーマン幾何学的定式化により、マイクロカノニカルサンプリングが、目標分布およびエネルギーに依存する計量 $ g_{ij} \propto (E - V(\mathbf{x}))^{2/q} \delta_{ij} $ を持つ共形平坦多様体上の測地線流れに等価であることが明らかになった。
• 新規のハイパーパrameterチューニング手法により、多様な問題に対して高い性能が得られ、MCHMCは既存のHMCベースのサンプラーに対する強固でスケーラブルな代替手法であることが示された。