[論文レビュー] Magnetic Hamiltonian Monte Carlo

Nilesh Tripuraneni, Mark Rowland+2 more|arXiv (Cornell University)|Jul 10, 2016

Markov Chains and Monte Carlo Methods参考文献 16被引用数 12

ひとこと要約

この論文は、非正則ハミルトニアン力学を用いてサンプリング効率を向上させる、ハミルトニアン・モンテカルロ（HMC）の一般化である磁気ハミルトニアン・モンテカルロ（MHMC）を提案する。力学に磁場に類似した項を組み込むことで、高次元の事後分布における混合性能が向上し、トゥイと実世界の推論問題において、有効サンプルサイズの向上が実証された。

ABSTRACT

Hamiltonian Monte Carlo (HMC) exploits Hamiltonian dynamics to construct efficient proposals for Markov chain Monte Carlo (MCMC). In this paper, we present a generalization of HMC which exploits extit{non-canonical} Hamiltonian dynamics. We refer to this algorithm as magnetic HMC, since in 3 dimensions a subset of the dynamics map onto the mechanics of a charged particle coupled to a magnetic field. We establish a theoretical basis for the use of non-canonical Hamiltonian dynamics in MCMC, and construct a symplectic, leapfrog-like integrator allowing for the implementation of magnetic HMC. Finally, we exhibit several examples where these non-canonical dynamics can lead to improved mixing of magnetic HMC relative to ordinary HMC.

研究の動機と目的

• 非正則ハミルトニアン力学を活用した、MCMCサンプリングの改善を図るハミルトニアン・モンテカルロ（HMC）の一般化を開発すること。
• 非正則力学をMCMCに適用するための理論的基盤を確立し、シンプレクティック性や時間反転対称性といった重要な性質を保つこと。
• 提案された力学のための効率的な数値実装を可能にする、シンプレクティックでループフロッグに類似した積分子を設計すること。
• 複雑な事後分布において、磁気HMCが標準HMCよりも混合性能と有効サンプルサイズの観点で優れていることを実証的に示すこと。
• 磁場成分が、リーマンHMCに類似した局所的プリコンディショニングの形式としてMCMCに応用可能かどうかを検討すること。

提案手法

• 非対称行列Aをハミルトニアンフロー方程式に用いる一般化されたハミルトニアンフレームワークを提案し、非正則力学を可能にする。
• スケューミétrィック行列Gを用いて磁場に類似した項を力学に導入し、3次元では電荷を帯びた粒子が磁場中を運動する場合に相当する。
• 標準HMCで用いられるループフロッグ積分子に類似したシンプレクティック積分子を導出。数値的安定性とエネルギー保存を保証する。
• パrameter空間に運動量変数を追加し、固定時間τの間、磁気ハミルトニアンフローをシミュレートすることで、目的の分布に適応する。
• 数値積分誤差を補正するため、メトロポリス・ハスティングスの受容ステップを用い、目的分布に関して詳細バランスが保たれることを保証する。
• 各イテレーションで運動量を再サンプリングし、磁気ハミルトニアンフローを統合した後、運動量の反転を適用して詳細バランスを確保する。

実験結果

リサーチクエスチョン

• RQ1 非正則ハミルトニアン力学は、標準HMCと比較してMCMCサンプリングにおける混合性能を向上させ得るか？
• RQ2 非正則ハミルトニアン力学の理論的性質（例：シンプレクティック性、時間反転対称性）は、MCMCの文脈でどのように特徴づけられるか？
• RQ3 磁気HMCのためのシンプレクティック積分子をどのように構築すれば、効率的な数値シミュレーションが可能になるか？
• RQ4 磁場成分の導入により、有効サンプルサイズと収束速度に顕著な改善が見られるか？
• RQ5 磁気HMCは、位置依存磁場やその他の非正則構造を含むように一般化可能か？これにより、適応的推論が可能になるか？

主な発見

• フィッツハブ・ナグumoモデルにおいて、磁気HMCは標準HMCよりも1秒あたりの有効サンプルサイズが高く、パrameter bおよびcに関して最大で11%の向上を示した。
• ab平面に沿った摂動を加えたMHMCバージョンが最良の性能を示し、パrameter bの有効サンプルサイズは1.47であったのに対し、標準HMCでは1.33であった。
• すべてのMHMCバージョンが、bおよびcパラメータに関して標準HMCを上回る混合性能を示し、全テスト済みの磁場設定において一貫して高い有効サンプルサイズを達成した。
• 全MHMCおよびHMCチェーンにおける平均受容率は約80%であり、提案が適切にキャリブレーションされており、効率的であることを示している。
• 1000サンプルあたりの反復処理コストはすべての手法でほぼ同一（約238秒）であり、性能差は計算コストではなく混合性能に起因していることが確認された。
• パラメータ(a,b)の周辺事後密度の等高線は、強い非線形依存関係を示しており、複雑な事後分布を効果的に探索するため、MHMCのような高度なサンプリング手法の必要性が裏付けられた。