[論文レビュー] Non-Canonical Hamiltonian Monte Carlo

James A. Brofos, Roy R. Lederman|arXiv (Cornell University)|Aug 18, 2020

Markov Chains and Monte Carlo Methods参考文献 13被引用数 7

ひとこと要約

この論文は、シンプレクティック幾何学を用いてハミルトニアン・モンテカルロ（HMC）の標準的でない構造へ拡張することで、非標準的ハミルトニアン・モンテカルロ（HMC）を導入し、非標準的ダイナミクスを通じてより効率的なサンプリングを実現する。詳細なバランスを保持する暗黙的積分子を提案するとともに、ダーブォーの定理による明示的近似を提示し、ベンチマーク問題において標準的HMCおよび磁気的HMCよりも優れた有効サンプルサイズを示している。

ABSTRACT

Hamiltonian Monte Carlo is typically based on the assumption of an underlying canonical symplectic structure. Numerical integrators designed for the canonical structure are incompatible with motion generated by non-canonical dynamics. These non-canonical dynamics, motivated by examples in physics and symplectic geometry, correspond to techniques such as preconditioning which are routinely used to improve algorithmic performance. Indeed, recently, a special case of non-canonical structure, magnetic Hamiltonian Monte Carlo, was demonstrated to provide advantageous sampling properties. We present a framework for Hamiltonian Monte Carlo using non-canonical symplectic structures. Our experimental results demonstrate sampling advantages associated to Hamiltonian Monte Carlo with non-canonical structure. To summarize our contributions: (i) we develop non-canonical HMC from foundations in symplectic geomtry; (ii) we construct an HMC procedure using implicit integration that satisfies the detailed balance; (iii) we propose to accelerate the sampling using an {\em approximate} explicit methodology; (iv) we study two novel, randomly-generated non-canonical structures: magnetic momentum and the coupled magnet structure, with implicit and explicit integration.

研究の動機と目的

• 標準的シンプレクティック構造を超えたハミルトニアン・モンテカルロの幾何的基盤を構築すること。
• 非標準的シンプレクティック多様体上で暗黙的積分を用いて可逆なHMC手順を構築すること。
• ダーブォーの定理による座標変換に基づく明示的積分子を用いて、サンプリングを加速すること。
• ベンチマーク推論タスクにおける非標準的HMCの性能を評価し、有効サンプルサイズと計算効率を比較すること。
• 磁気運動量や結合磁気ダイナミクスなどの新しい非標準的構造を探索し、サンプリングを改善すること。

提案手法

• 非標準的シンプレクティックベクトル空間におけるハミルトニアンダイナミクスをシンプレクティック幾何学を用いて定義し、標準的HMCフレームワークを一般化する。
• 詳細なバランスを保持するため、マークフ・チェーンの正確な可逆性を保証するため、中点積分子を適用する。
• 非標準的シンプレクティック形式を座標変換によって標準形式に変換するため、ダーブォーの定理を用いる。
• 座標変換のための基底変換行列を計算するために、シンプレクティック・グラム・シュミット手順を開発する。
• 変換された座標を用いて、計算コストを低減しつつ事後分布への忠実度を保持する近似明示的積分子を実装する。
• 近似サンプリングプロセスにおける詳細なバランスを維持するために、明示的積分子をメトロポリス・ハスティングス補正と組み合わせる。

実験結果

リサーチクエスチョン

• RQ1 ハミルトニアンダイナミクスにおける非標準的シンプレクティック構造は、標準的HMCと比較してサンプリング効率を向上させることができるか？
• RQ2 非標準的構造上での暗黙的積分は、詳細なバランスを保持し、有効なMCMCサンプリングを保証するか？
• RQ3 ダーブォーの定理による座標変換に基づく明示的積分子は、計算コストを低減しつつ事後分布への忠実度を維持する効率的な代替手段となるか？
• RQ4 磁気運動量や結合磁気ダイナミクスなどの非標準的構造は、有効サンプルサイズとサンプリング効率にどのように影響を与えるか？
• RQ5 混合性を向上させる非標準的シンプレクティック構造を体系的に生成する方法はあるか？

主な発見

• 暗黙的積分を用いた非標準的HMCは、ベンチマーク問題において、標準的HMCよりも高い平均有効サンプルサイズ（ESS）と1秒あたりの最小ESSを達成した。
• ダーブォーの定理に基づく明示的積分子は、真の事後分布に忠実なサンプルを生成し、計算コストを削減しながらも、暗黙的積分と同等のESS値を示した。
• フィッツハウ・ナグモモデルでは、6つの手法（標準的、磁気的、非標準的バージョン）が近似的に一致した推論をもたらし、明示的近似の事後分布への忠実度を検証した。
• 結合磁気構造および磁気運動量構造は、サンプリング効率を向上させ、標準的HMCを上回る1秒あたりのESS値を示した。
• 暗黙的積分子は1秒あたりの最小ESSが2.96〜2.97であったのに対し、標準的HMCは2.97であったため、サンプリング効率の継続的改善が確認された。
• 明示的積分子は、暗黙的手法と比較して5%以内のESS値を達成しながら勾配評価回数を削減したため、精度と速度の良好なトレードオフが示された。