[論文レビュー] Second order quantitative bounds for unadjusted generalized Hamiltonian Monte Carlo

Evan Camrud, Alain Durmus+2 more|arXiv (Cornell University)|Jun 15, 2023

Markov Chains and Monte Carlo Methods被引用数 4

ひとこと要約

本稿では、修正エントロピー法の摂動的離散版を用いて、未調整一般化ハミルトニアンモンテカルロ（gHMC）の2次精度の収束バウンドを確立する。対数ソボレフ条件とややきついポテンシャルの正則性のもとで、相対エントロピーが $\mathcal{O}(\delta^2)$ の割合で減少することを証明し、精度 $\varepsilon$ を達成するための総反復計算量は $\mathcal{O}(d/\varepsilon^{1/4})$ となる。弱く相互作用する平均場ポテンシャルの場合は、$\mathcal{O}((d/\varepsilon)^{1/4})$ に改善される。

ABSTRACT

This paper provides a convergence analysis for generalized Hamiltonian Monte Carlo samplers, a family of Markov Chain Monte Carlo methods based on leapfrog integration of Hamiltonian dynamics and kinetic Langevin diffusion, that encompasses the unadjusted Hamiltonian Monte Carlo method. Assuming that the target distribution $π$ satisfies a log-Sobolev inequality and mild conditions on the corresponding potential function, we establish quantitative bounds on the relative entropy of the iterates defined by the algorithm, with respect to $π$. Our approach is based on a perturbative and discrete version of the modified entropy method developed to establish hypocoercivity for the continuous-time kinetic Langevin process. As a corollary of our main result, we are able to derive complexity bounds for the class of algorithms at hand. In particular, we show that the total number of iterations to achieve a target accuracy $\varepsilon >0$ is of order $d/\varepsilon^{1/4}$, where $d$ is the dimension of the problem. This result can be further improved in the case of weakly interacting mean field potentials, for which we find a total number of iterations of order $(d/\varepsilon)^{1/4}$.

研究の動機と目的

• 相対エントロピーの観点から、未調整一般化ハミルトニアンモンテカルロ（gHMC）の定量的収束速度を確立すること。
• 既存の超弱化に基づくエントロピー法を、gHMCのための離散的・摂動的スキームに拡張すること。
• ポテンシャルの対数ソボレフおよび正則性条件のもとで、gHMCの明示的な反復計算量バウンドを導出すること。
• ポテンシャルの構造（例えば、平均場）が収束速度に与える影響を分析すること。
• 相対エントロピーにおいて2次誤差バウンドを提供し、1次精度スキームを改善すること。

提案手法

• 分割積分子を用いて、連続時刻の修正エントロピー法を離散的・摂動的gHMC力学に適応する。
• 目的測度 $\pi$ に関する相対エントロピーに基づく離散的リャプノフ関数を導入する。
• 離散的gHMCカーネルと理想ハミルトニアン力学との差を制御するための摂動解析を用いる。
• 高次誤差項の生成子におけるバウンドに、重み付きノルム $\mathfrak{W}$ と関数 $\mathbf{M}$ を用いる。
• 対数ソボレフ不等式を用いて、反復間での相対エントロピーの減少を制御する。
• ループフロップ積分子のテイラー展開および積分剰余項推定を用いて、誤差項のバウンドを導出する。

実験結果

リサーチクエスチョン

• RQ1 対数ソボレフ条件のもとで、未調整gHMCの相対エントロピーにおいて2次収束バウンドを確立できるか？
• RQ2 gHMCの離散的・摂動的性質は、連続力学と比較してエントロピー減少率にどのように影響するか？
• RQ3 高次元における目標精度 $\varepsilon$ を達成するためのgHMCの総反復計算量は何か？
• RQ4 ポテンシャルの構造（例えば、弱く相互作用する平均場）は収束速度にどのように影響するか？
• RQ5 修正エントロピー法をgHMCのような離散的・非可逆MCMCスキームに適応できるか？

主な発見

• gHMC反復の相対エントロピーは、初期分布およびポテンシャルの正則性に依存する定数を含み、$\mathcal{O}(\delta^2)$ の割合で減少する。
• 標準的な対数ソボレフおよび正則性条件のもとで、精度 $\varepsilon > 0$ を達成するための反復総数は $\mathcal{O}(d/\varepsilon^{1/4})$ である。
• 弱く相互作用する平均場ポテンシャルの場合は、反復計算量が $\mathcal{O}((d/\varepsilon)^{1/4})$ に改善される。
• 解析により、相対エントロピーにおける2次誤差バウンドが確立され、オイラーに基づくスキームよりも改善される。
• より弱い仮定に対してもロバストである：4次正則性条件を3次に置き換えても、$\mathcal{O}(\delta^2)$ バウンドが得られ、$\mathcal{O}(\delta^4)$ ではなくなる。
• 結果は、連続時刻の修正エントロピー法の離散的・摂動的適応により得られ、積分誤差バウンドおよび生成子解析によって検証されている。