[論文レビュー] Randomized Hamiltonian Monte Carlo as Scaling Limit of the Bouncy Particle Sampler and Dimension-Free Convergence Rates

George Deligiannidis, Daniel Paulin+2 more|arXiv (Cornell University)|Aug 13, 2018

Markov Chains and Monte Carlo Methods被引用数 4

ひとこと要約

本稿では、高次元極限においてバウンシング・パーティクル・サンプラー（BPS）が弱収束してランダム化ハミルトニアン・モンテカルロ（RHMC）に一致することを確立し、強い対数凸性と有界ヘッセ行列を満たす条件下でRHMCに対して次元に依存しない収束レートを、カップリングおよびハイポコercivity技術を用いて示している。

ABSTRACT

The Bouncy Particle Sampler is a Markov chain Monte Carlo method based on a nonreversible piecewise deterministic Markov process. In this scheme, a particle explores the state space of interest by evolving according to a linear dynamics which is altered by bouncing on the hyperplane tangent to the gradient of the negative log-target density at the arrival times of an inhomogeneous Poisson Process (PP) and by randomly perturbing its velocity at the arrival times of an homogeneous PP. Under regularity conditions, we show here that the process corresponding to the first component of the particle and its corresponding velocity converges weakly towards a Randomized Hamiltonian Monte Carlo (RHMC) process as the dimension of the ambient space goes to infinity. RHMC is another piecewise deterministic non-reversible Markov process where a Hamiltonian dynamics is altered at the arrival times of a homogeneous PP by randomly perturbing the momentum component. We then establish dimension-free convergence rates for RHMC for strongly log-concave targets with bounded Hessians using coupling ideas and hypocoercivity techniques.

研究の動機と目的

• 状態空間の次元が増加する際のバウンシング・パーティクル・サンプラー（BPS）の漸近的挙動を理解すること。
• スケーリング極限としてのBPSとランダム化ハミルトニアン・モンテカルロ（RHMC）の間の厳密な関係を確立すること。
• 強い対数凸性と有界ヘッセ行列を満たす条件下で、RHMCの次元に依存しない収束レートを導出すること。
• カップリングおよびハイポコercivity技術を活用して、高次元設定における収束を分析すること。
• 非可逆MCMC手法の高次元における効率性に対する理論的裏付けを提供すること。

提案手法

• BPSおよびRHMCの両者に、区分的決定的マーキョフ過程（PDMP）フレームワークを用い、粒子が線形力学に従い、ランダムな時刻に摂動を受ける。
• BPSを、対数目標密度の勾配に基づく非定常ポアソン過程に従う速度ジャンプと、定常ポアソン過程に従う運動量リセットを伴うプロセスとしてモデル化する。
• 弱収束理論を適用し、次元が無限大に近づく際、BPSプロセスの第一成分がRHMCの対応する成分に収束することを示す。
• RHMCプロセスのパスを比較し、収束レートをターゲット分布への収束に束縛するためにカップリング技術を用いる。
• 強い対数凸性および有界ヘッセ行列の条件下で、次元に依存しない収束レートを確立するためにハイポコercivity法を用いる。
• PDMPの生成子および不変測度を分析し、エルゴディシティおよびターゲット分布への収束を保証する。

実験結果

リサーチクエスチョン

• RQ1 バウンシング・パーティクル・サンプラー（BPS）は、高次元極限で既知のMCMC手法に収束するか？
• RQ2 スケーリング極限において、バウンシング・パーティクル・サンプラーとランダム化ハミルトニアン・モンテカルロの関係は何か？
• RQ3 強い対数凸性と有界ヘッセ行列を満たす条件下で、RHMCに対して次元に依存しない収束レートを確立できるか？
• RQ4 カップリングおよびハイポコercivity技術は、高次元設定における収束を証明するためにどのように寄与するか？
• RQ5 非可逆PDMPに基づくサンプラーに対して、高次元においてどのような理論的保証を与えることができるか？

主な発見

• 状態空間の次元が無限大に近づく際、バウンシング・パーティクル・サンプラー（BPS）は弱収束してランダム化ハミルトニアン・モンテカルロ（RHMC）に一致する。
• 極限プロセスであるRHMCは、非可逆PDMPであり、運動量が定常ポアソン過程の到着時刻にランダムに摂動を受ける。
• 強い対数凸性および有界ヘッセ行列の条件下で、RHMCに対して次元に依存しない収束レートが確立される。
• 収束レートは次元に依存せず、高次元ターゲット分布におけるスケーラビリティを示している。
• カップリング技術とハイポコercivityの組み合わせにより、高次元非可逆MCMCにおける収束分析の厳密なフレームワークが提供される。
• 理論的結果は、BPS や RHMC などの非可逆サンプラーが高次元ベイズ推論において実証的に効率的であることを裏付ける。