[論文レビュー] The Boomerang Sampler

Joris Bierkens, Sebastiano Grazzi+2 more|arXiv (Cornell University)|Jun 24, 2020

Markov Chains and Monte Carlo Methods被引用数 6

ひとこと要約

Boomerang Samplerは、ハミルトニアン力学に従う区分的楕円軌道を用いて、複雑な後騒分布からのサンプリングを可能にする、連続時間で非可逆なマルコフ連鎖モンテカルロアルゴリズムである。この手法は大規模データセットにおける正確なサブサンプリングを可能にし、既存のPDMPと比較して計算コストをO(1/d)削減する。また、大規模データの極限においてO(n)のスケーリング優位性を達成し、ロジスティック回帰および拡散ブリッジシミュレーションにおいてZig-ZagやBouncy Particle Samplerを凌駕する性能を示す。

ABSTRACT

This paper introduces the Boomerang Sampler as a novel class of continuous-time non-reversible Markov chain Monte Carlo algorithms. The methodology begins by representing the target density as a density, $e^{-U}$, with respect to a prescribed (usually) Gaussian measure and constructs a continuous trajectory consisting of a piecewise elliptical path. The method moves from one elliptical orbit to another according to a rate function which can be written in terms of $U$. We demonstrate that the method is easy to implement and demonstrate empirically that it can out-perform existing benchmark piecewise deterministic Markov processes such as the bouncy particle sampler and the Zig-Zag. In the Bayesian statistics context, these competitor algorithms are of substantial interest in the large data context due to the fact that they can adopt data subsampling techniques which are exact (ie induce no error in the stationary distribution). We demonstrate theoretically and empirically that we can also construct a control-variate subsampling boomerang sampler which is also exact, and which possesses remarkable scaling properties in the large data limit. We furthermore illustrate a factorised version on the simulation of diffusion bridges.

研究の動機と目的

• 大規模ベイジアン推論問題におけるサンプリング効率を向上させる、連続時間で非可逆なMCMCアルゴリズムの新クラスを開発すること。
• 定常速度の力学をハミルトニアンに基づく楕円軌道に置き換えることで、既存の区分的決定的モンテカルロ手法を一般化すること。
• Boomerang Samplerにおける正確なサブサンプリングを実現し、定常分布にバイアスを生じさせることなく、大規模データセットの計算コストを低減すること。
• モデル内の条件付き独立構造を活用する因子化されたバージョンのサンプラーを設計し、計算スケーラビリティを向上させること。
• Zig-ZagやBouncy Particle Samplerといった基準となるPDMPと比較して、収束速度、漸近的分散、計算コストの面で理論的および実験的優位性を示すこと。

提案手法

• 目的密度をガウス測度に関して $ e^{-U} $ としてモデル化し、ハミルトニアン力学に従う $ \frac{d\bm{x}}{dt} = \bm{v}, \frac{d\bm{v}}{dt} = -\bm{x} $ に従う区分的楕円軌道に沿った連続的軌道を構築する。
• 軌道間のスイッチングイベントは、$ U $ の勾配に基づくレート関数によって決定され、スイッチング強度は $ \lambda_{i,j}(\bm{x},\bm{v}) = \langle \bm{v}, \partial_{x_{i,j}} U(\bm{x}) \rangle_+ $ で与えられる。
• 制御変数に基づくサブサンプリング技術を導入し、勾配の不偏推定器を構築することで、定常分布にバイアスを生じさせることなく正確なサブサンプリングを実現する。
• 因子化されたBoomerang Samplerは、モデル内の条件付き独立構造を活用して局所的に係数を更新することで、局所的ポissonレートのバウンディングにより計算コストを低減する。
• 定数のポissonレートバウンディング $ \overline{\lambda}_{i,j} = m_{i,j} \sqrt{|x^{i,j}_0|^2 + |v^{i,j}_0|^2} $ を用い、軌道に沿って $ |x^{i,j}_t|^2 + |v^{i,j}_t|^2 $ が不変であることに依存する。
• 理論的分析により、スイッチングイベントの数が $ \mathcal{O}(1/d) $ にスケーリングすることが示され、他のPDMPと比較して計算コストが低減することが分かっている。

実験結果

リサーチクエスチョン

• RQ1 ハミルトニアン力学に基づく非可逆的連続時間MCMCアルゴリズムは、Zig-Zag や Bouncy Particle Sampler と比較して、混合性および計算効率の面で優れるか？
• RQ2 非i.i.d.データであっても、正確なサブサンプリングを用いる場合、Boomerang Samplerは大規模データの極限においてO(n)のスケーリング優位性を達成するか？
• RQ3 因子化されたBoomerang Samplerは、モデル内の条件付き独立構造を活用して、高次元設定における計算コストを低減できるか？
• RQ4 Boomerang Samplerの性能は次元dとともにどのようにスケーリングするか？また、dが増加しても効率性を維持するか？
• RQ5 制御変数に基づくサブサンプリング技術は、定常分布の正確性を保ちつつ、大規模ベイジアン推論における効率的サンプリングを可能にするか？

主な発見

• Boomerang Samplerは、後騒分布の収縮率に依存せず、大規模データの極限において非サブサンプリングアルゴリズムと比較して計算効率で $ \mathcal{O}(n) $ の優位性を示す。
• Boomerang Samplerにおけるスイッチングイベントの数は $ \mathcal{O}(1/d) $ にスケーリングし、Zig-Zag や Bouncy Particle Sampler などの他のPDMPと比較して計算コストを低減する。
• 実験的結果により、大規模データセットにおけるロジスティック回帰において、サブサンプリングされたBoomerang SamplerはBPSやZig-Zagを上回り、収束が速く、漸近的分散が小さいことが示された。
• 因子化されたBoomerang Samplerは、局所的構造を活用し、局所的更新を可能にすることで、拡散ブリッジシミュレーションにおいて顕著な計算上の利点をもたらす。
• 制御変数に基づくサブサンプリング技術は、定常分布の正確性を保ちつつ、勾配評価コストを低減するため、大規模ベイジアン推論に適している。
• 例えば $ \| \nabla^2 U(\bm{x}) \| \leq \frac{1}{4} \| \sum_{i=1}^n \bm{y}^{(i)} (\bm{y}^{(i)})^\top \| $ のような $ U $ の勾配に関する理論的バウンディングは、安定的かつ効率的なポissonレートバウンディングの構築を支援する。