[論文レビュー] Optimizing The Integrator Step Size for Hamiltonian Monte Carlo

Michael Betancourt, Simon Byrne+1 more|arXiv (Cornell University)|Nov 24, 2014

Markov Chains and Monte Carlo Methods参考文献 15被引用数 49

ひとこと要約

本稿は、後退誤差解析とシンプレクティック積分子の性質を用いて、ハミルトニアン・モンテカルロ（HMC）における積分子ステップサイズの幾何的最適化基準を提案する。計算コストをハミルトニアン誤差の期待値によってバインドすることで、従来の 0.651 の受容率目標を、より広い 0.6 ≤ a ≤ 0.9 の範囲に緩和する、分布に依存しない強固な最適化フレームワークを構築し、多様なモデルにおいて実用的で効率的な性能を向上させる。

ABSTRACT

Hamiltonian Monte Carlo can provide powerful inference in complex statistical problems, but ultimately its performance is sensitive to various tuning parameters. In this paper we use the underlying geometry of Hamiltonian Monte Carlo to construct a universal optimization criteria for tuning the step size of the symplectic integrator crucial to any implementation of the algorithm as well as diagnostics to monitor for any signs of invalidity. An immediate outcome of this result is that the suggested target average acceptance probability of 0.651 can be relaxed to $0.6 \lesssim a \lesssim 0.9$ with larger values more robust in practice.

研究の動機と目的

• 目的分布に依存しない、普遍的で幾何学的基盤の上に立つHMCにおける積分子ステップサイズの最適化基準の開発を目的とする。
• HMCの性能がステップサイズに敏感である問題に対処し、計算コストの計算可能な上界を導出することで、既存の下界を補完する。
• シンプレクティック積分子の誤差と修正ハミルトニアンを考慮した、原理的で診断可能な基準を提供することで、HMCのチューニングを強化する。
• 従来の 0.651 の平均受容確率目標を、より実用的で柔軟な範囲 0.6 ≤ a ≤ 0.9 に緩和し、安定性と効率性を向上させる。
• i.i.d. なターゲットや2次スティープル・フロッグ積分子に限らない、一般の分布および任意のシンプレクティック積分子へのHMCチューニングの適用範囲を拡張する。

提案手法

• シンプレクティック積分子の数値積分誤差を真のハミルトニアンの摂動としてモデル化し、修正ハミルトニアン系を導出する後退誤差解析を用いる。
• 積分子の次数 k と修正ハミルトニアンの生成関数 G を用いて、期待ハミルトニアン誤差 Δε(q,p) の一次近似を導出する。
• ジェンセンの不等式を内側および外側の期待値に適用し、HMC遷移の期待コストに対する補完的な上界と下界を導出する。
• 位相空間上の結合分布を用いて E[1/a(q)] = E[1/E[a(q,p)|q]] として表される、棄却提案数の期待値を最小化するコスト最適化基準を構築する。
• 横方向ベクトル場と位相空間フロー力学を用いて、特に解析解が得られるガウス分布に対して、誤差項の正準期待値を計算する。
• 数値実験と一致するように、ガウスモデルにおける2次スティープル・フロッグ積分子（例：ストルマー＝ヴェルタおよび陰的中点法）を用いて近似を検証する。

実験結果

リサーチクエスチョン

• RQ1 シンプレクティック積分子の性質を用いて、ターゲット分布に依存せずにHMCの計算コストをバインド・最適化することは可能か？
• RQ2 修正ハミルトニアンは、HMCにおける数値積分によって生じるバイアスをどのように定量化するか？
• RQ3 任意のシンプレクティック積分子および任意のターゲット分布に適用可能な、普遍的な積分子ステップサイズ最適化基準を導出可能か？
• RQ4 平均受容確率の選択がHMCの効率性に与える影響は何か？ かつ、従来の 0.651 の目標は性能を損なわずに緩和可能か？
• RQ5 誤差構造から、無効または不適切にチューニングされたHMC実装を検出できる診断は何か？

主な発見

• 本稿は、既存の下界を改善し、強固な最適化を可能にする、HMC遷移の期待コストに対する補完的上界を導出する。
• 修正ハミルトニアンの生成関数 G を用いて、期待ハミルトニアン誤差 Δε を O(ε^{2k}) として近似し、主項は G 及び正確な力学下での G のフローを含む。
• ガウスターゲットにおける2次スティープル・フロッグ積分子に対して、期待誤差は (1/64)ε⁴(1 − cos 2τ) + O(ε⁶) として解析的に計算可能であり、理論的枠組みを検証する。
• 従来の 0.651 の平均受容確率目標は、より強固な範囲 0.6 ≤ a ≤ 0.9 に緩和され、実用的に高い性能を示す。
• 最適化基準は分布に依存せず、任意のシンプレクティック積分子およびターゲット分布に適用可能であり、汎用的チューニングを可能にする。
• 誤差期待値に基づく診断を提供することで、無効または不適切にチューニングされたHMC実装を検出でき、信頼性が向上する。