[論文レビュー] Mix & Match Hamiltonian Monte Carlo

Tijana Radivojević, Elena Akhmatskaya|arXiv (Cornell University)|Jun 13, 2017

Markov Chains and Monte Carlo Methods被引用数 3

ひとこと要約

Mix & Match Hamiltonian Monte Carlo (MMHMC) は、修正されたハミルトニアンと部分的モーメンタムのリセットを用いて重要度サンプリングと非可逆的ダイナミクスを統合することで、HMC を向上させ、特に高次元問題において、サンプリング効率を顕著に向上させる。MMHMC は、HMC、GHMC、RMHMC、MALA、RWMH よりも優れた性能を示す。

ABSTRACT

The Hamiltonian Monte Carlo (HMC) method has been recognized as a powerful sampling tool in computational statistics. We show that performance of HMC can be dramatically improved by incorporating importance sampling and an irreversible part of the dynamics into the chain. This is achieved by replacing Hamiltonians in the Metropolis test with modified Hamiltonians, and a complete momentum update with a partial momentum refreshment. We call the resulting generalized HMC importance sampler---Mix & Match Hamiltonian Monte Carlo (MMHMC). The method is irreversible by construction and has been further complemented by (i) the efficient algorithms for computation of modified Hamiltonians; (ii) the implicit momentum update procedure as well as (iii) the two-stage splitting integration schemes specially derived for the methods sampling with modified Hamiltonians. MMHMC has been implemented in the in-house software package HaiCS (Hamiltonians in Computational Statistics), tested on the popular statistical models and compared in sampling efficiency with HMC, Generalized Hybrid Monte Carlo (GHMC), Riemann Manifold Hamiltonian Monte Carlo (RMHMC), Metropolis Adjusted Langevin Algorithm (MALA) and Random Walk Metropolis-Hastings (RWMH). To make a fair comparison, we propose a metric that accounts for both correlations among samples and weights, and can be readily used for all methods which generate such samples. The experiments reveal the superiority of MMHMC over popular sampling techniques, especially in solving high dimensional problems.

研究の動機と目的

• 高次元統計的モデルにおけるハミルトニアン・モンテカルロ（HMC）のサンプリング効率を向上させること。
• 既存の HMC 変種における制限を克服するため、サンプリングプロセスに非可逆性と重要度サンプリングを導入すること。
• 詳細つり合いを維持しながら混合性を向上させ、ランダムウォーク的挙動を低減する一般化された HMC フレームワークを開発すること。
• 修正されたハミルトニアンの計算とこれらの新しい定式化におけるダイナミクスの統合を効率的に行うための計算ツールを開発すること。

提案手法

• 重要度サンプリングを組み込むために、メトロポリス受容テストにおける標準的ハミルトニアンを修正ハミルトニアンに置き換える。
• 完全なモーメンタム更新の代わりに部分的モーメンタムリセットを導入し、非可逆的ダイナミクスを可能にする。
• 数値的安定性を向上させるために、陰的なモーメンタム更新手順を採用する。
• 修正ハミルトニアンを用いたサンプリングに特化した二段階分割統合スキームを採用する。
• 計算オーバーヘッドを低減するための修正ハミルトニアンの効率的計算アルゴリズムを開発する。
• 詳細つり合いを維持しながら、非可逆性による混合性の向上を実現する一般化された HMC フレームワーク（MMHMC）を構築する。

実験結果

リサーチクエスチョン

• RQ1 HMC に重要度サンプリングと非可逆的ダイナミクスを組み込むことで、高次元モデルにおけるサンプリング効率を顕著に向上させることができるか？
• RQ2 MMHMC は、HMC、GHMC、RMHMC、MALA、RWMH と比較して、有効サンプルサイズと相関の低減においてどのように異なるか？
• RQ3 これらの新しい定式化における修正ハミルトニアンの効率的計算とダイナミクス統合に必要な計算技術は何か？
• RQ4 サンプル相関と重みの両方を考慮する統一された指標は、重み付きアルゴリズムを含む多様なサンプリング手法を公平に比較可能か？
• RQ5 提案手法は、より速い混合性と低減されたランダムウォーク的挙動を達成する一方で、詳細つり合いを維持しているか？

主な発見

• MMHMC は、特に高次元問題において、HMC、GHMC、RMHMC、MALA、RWMH よりも優れたサンプリング効率を示す。
• 非可逆的ダイナミクスと重要度サンプリングの統合により、サンプル相関が低減され、有効サンプルサイズが向上する。
• サンプル相関と重みの両方を考慮する提案された指標により、多様なアルゴリズム間での公平なベンチマークが可能になる。
• 修正ハミルトニアンの効率的計算と特化した二段階分割スキームにより、新しいダイナミクス下での安定的かつ正確な統合が実現される。
• 部分的モーメンタムリセットと陰的更新により、数値的安定性とサンプリング性能が向上し、詳細つり合いを損なわない。
• 実験的結果から、標準的な統計的モデルにおいて、MMHMC は収束速度と有効サンプルサイズの両面で既存手法を上回ることが確認された。