[論文レビュー] Selecting the Metric in Hamiltonian Monte Carlo

Ben Bales, Arya Pourzanjani+2 more|arXiv (Cornell University)|May 28, 2019

Markov Chains and Monte Carlo Methods参考文献 21被引用数 4

ひとこと要約

この論文は、事後分布の幾何構造に基づいて、ハミルトニアン・モンテカルロ（HMC）の最適なユークリッド距離の選択基準を自動的に導入し、低ランクのヘッセ行列に基づくメトリック適応法を提案する。従来のサンプル共分散法と比較して、大幅に少ないウォームアップのサンプル数で実現可能であり、相関の強い事後分布においてもサンプリング効率が向上する。Lanczos法を用いることで、計算的に実行可能である。

ABSTRACT

We present a selection criterion for the Euclidean metric adapted during warmup in a Hamiltonian Monte Carlo sampler that makes it possible for a sampler to automatically pick the metric based on the model and the availability of warmup draws. Additionally, we present a new adaptation inspired by the selection criterion that requires significantly fewer warmup draws to be effective. The effectiveness of the selection criterion and adaptation are demonstrated on a number of applied problems. An implementation for the Stan probabilistic programming language is provided.

研究の動機と目的

• 高次元の導関数や複雑なソルバーを必要とせずに、事後分布の幾何構造に適応する有効なユークリッドメトリックを選択する課題に対処すること。
• 特に高い相関性を持つ状況においても、効果的なメトリック適応に必要なウォームアップのサンプル数を削減すること。
• Stanのような確率的プログラミングフレームワークにスムーズに統合可能な、実用的でスケーラブルなメトリック選択および適応手法を開発すること。
• 低ランクヘッセ行列近似が、特に短いウォームアップフェーズにおいて、1秒あたりの有効サンプルサイズ（ESS/s）という観点で、標準の対角行列および全共分散メトリックを上回ることを示すこと。

提案手法

• 選択基準は、MAP推定値における事後分布の対数のヘッセ行列の固有値を用いて、線形化されたハミルトニアン力学に基づいて候補メトリックを評価する。
• 基準は、行列 $ L^T \nabla^2_{qq}H(q_0)L $ の固有値に基づく安定性の代理指標を計算する。ここで $ L $ はメトリック逆行列のコレスキー分解である。
• ランク1からランク8までのヘッセ行列近似を用いた新しい低ランクメトリック適応法を提案し、Lanczos法を用いて効率的に計算する。
• ヘッセ行列に基づくメトリック推定の安定性を高めるために、逆ウィシャート更新を組み込む。
• 選択基準を用いて、ウォームアップ中にメトリックタイプ（対角、密度、低ランク）を動的に切り替える。基準値が最小となるものを選択する。
• 本手法はStanに実装され、ESS/sと $\hat{R}$ を性能指標として用いて、ベンチマークモデルで評価された。

実験結果

リサーチクエスチョン

• RQ1 完全な事後分布サンプリングを必要とせずに、HMCにおけるメトリックの有効性を信頼性高く予測できる選択基準を導出できるか？
• RQ2 低ランクヘッセ行列に基づくメトリック適応は、サンプル共分散や対角近似と比較して、より少ないウォームアップのサンプル数で高いサンプリング効率を達成できるか？
• RQ3 提案されたメトリック適応は、相関のある事後分布において、標準のStanデフォルト（対角および密度）メトリックと比較して、1秒あたりの有効サンプルサイズ（ESS/s）が優れているか？
• RQ4 逆ウィシャート更新は、ヘッセ行列に基づくメトリック適応の安定性と性能にどのように影響を与えるか？
• RQ5 選択基準により、ウォームアップ中に自動的かつ動的にメトリックを切り替えることで、HMCの効率が向上するか？

主な発見

• 選択基準は、低い値を示すほど優れたHMC性能を示す高精度なメトリックを特定できており、Radon や Prophet を含む多様なモデルで有効である。
• 選択基準に基づいて対角、密度、低ランクヘッセ行列メトリックの間で動的に切り替えるスイッチング適応法は、固定メトリックと同等またはそれ以上のESS/sを達成した。
• Radon モデルでは、75個のウォームアップサンプルでのみ、最小ESS/sが370に達し、同じ条件下で対角メトリックを上回った。
• 低ランクヘッセ行列適応（ランク1～8）は、全サンプル共分散と比較して、特に高い相関性を持つ状況で、有効なサンプリングを達成するためのウォームアップサンプル数を顕著に削減した。
• 逆ウィシャート更新はヘッセ行列に基づくメトリックの安定性を向上させたが、すべてのケースで性能向上を保証しなかった（図4で示された）。
• Lanczos法により、必要な固有値および固有ベクトルの計算が効率的に行われ、高次元モデルへのスケーラビリティを実現した。