[論文レビュー] Generalized Bouncy Particle Sampler

Changye Wu, Christian P. Robert|arXiv (Cornell University)|Jun 15, 2017

Markov Chains and Monte Carlo Methods参考文献 18被引用数 15

ひとこと要約

この論文は、決定的でない速度反転を導入することで、Bouncy Particle Sampler (BPS) を一般化した、拒否なしで不可逆なマルコフ連鎖モンテカルロ法である Generalized Bouncy Particle Sampler (GBPS) を提案する。GBPS は、速度更新に確率的要素を直接組み込むことで、刷新パラメータのチューニングを不要にし、標準的な BPS に内在する可約性の問題を解消しながら、ターゲット分布からの正確なサンプリングを維持する。

ABSTRACT

As a special example of piecewise deterministic Markov process, bouncy particle sampler is a rejection-free, irreversible Markov chain Monte Carlo algorithm and can draw samples from target distribution efficiently. We generalize bouncy particle sampler in terms of its transition dynamics. In BPS, the transition dynamic at event time is deterministic, but in GBPS, it is random. With the help of this randomness, GBPS can overcome the reducibility problem in BPS without refreshement.

研究の動機と目的

• 決定的でない速度反転によって生じる可約性問題を解消する。
• BPS や Zig-Zag サンプラーを一般化する、速度遷移における確率的要素を導入した、部分的決定的マルコフ過程 (PDMP) のフレームワークを構築する。
• BPS の再起動レートのチューニングを不要にするために、確率的要素を直接遷移ダイナミクスに埋め込むことで、可約性とエルゴディック性を保証する。
• 大規模データに対して効率的でありながら正確な MCMC 法を提供し、近似のスケーラブルな代替手法とは対照的に、ベイズ推論に適したスケーラブルな正確な手法を実現する。

提案手法

• GBPS は、決定的でない速度反転 $ P_{\mathbf{x}}\mathbf{v} $ を、球面 $ S^{d-1} $ 上の分布から新しい速度を抽出する確率的遷移核 $ Q(\cdot|\mathbf{z}_{\tau-}) $ に置き換えることで BPS を一般化する。
• アルゴリズムは、速度の分解を可能にする移動座標系を用いる。これにより、固定座標系を用いる Zig-Zag プロセスとは異なり、適応的かつ非固定の反転ダイナミクスを実現する。
• イベントレートは、BPS から継承された $ \lambda(\mathbf{z}_t) = \max\{0, -\mathbf{v}_t \cdot \nabla \log \pi(\mathbf{x}_t)\} $ として定義され、ターゲット密度の勾配に従った変化とイベント発生が整合するように保証される。
• 遷移ダイナミクスは、速度更新が確率的かつ条件付き分布に従うように設計されており、不変測度が $ \pi(\mathbf{x}) \, d\mathbf{x} \otimes d\mathbf{v} $ となるように保証され、ターゲット分布が保持される。
• この手法は、部分的決定的マルコフ過程 (PDMP) の理論を活用し、勾配関数に従った決定的進化と、レート関数に従って制御されるイベント時におけるランダムジャンプの繰り返しを特徴とする。
• 測度論的議論により、任意の2つの不変測度が等価であることを示し、状態空間内の開集合を横切る正の遷移確率に依存して、エルゴディック性が証明される。

実験結果

リサーチクエスチョン

• RQ1 決定的でない速度反転に依存せず、可約性の問題を回避する拒否なしの MCMC サンプラーを構築できるか？
• RQ2 BPS の再起動レートのチューニングを、速度遷移メカニズムに確率的要素を直接埋め込むことで回避できるか？
• RQ3 確率的で速度更新を行う一般化された PDMP サンプラーは、ターゲット分布からの正確なサンプリングを維持しながら、混合性とスケーラビリティを向上できるか？
• RQ4 速度分解における移動座標系の使用は、Zig-Zag と同様に固定座標系を用いる手法と比較して、状態空間の探索性を向上させられるか？

主な発見

• GBPS は再起動プロセスを必要とせず、再起動レートパラメータのチューニングも不要にすることで、BPS の可約性問題を解消する。
• GBPS の確率的遷移ダイナミクスにより、不変分布が正確に $ \pi(\mathbf{x}) \, d\mathbf{x} \otimes d\mathbf{v} $ となることが保証され、サンプラーの正確性が維持される。
• GBPS は BPS が持つ拒否なしの性質とスケーラビリティを維持しており、近似のない方法で大規模データセットに対しても効率的なサンプリングが可能である。
• 理論的分析により、GBPS がエルゴディックであることが証明された。これは、状態空間内の開集合を横切る正の遷移確率が、可約性の排除と不変測度の一意性を保証するためである。
• この手法は、移動座標系を用いた速度分解により、BPS と Zig-Zag プロセスの両方を統一的な PDMP フレームワーク内で一般化する。
• 数値実験では、特に高次元およびマルチモーダルなターゲット分布において、GBPS が BPS や Zig-Zag と同等またはそれ以上の混合性を達成していることが示された。