[論文レビュー] Stochastic Bouncy Particle Sampler

Ari Pakman, Dar Gilboa+2 more|arXiv (Cornell University)|Sep 3, 2016

Markov Chains and Monte Carlo Methods参考文献 37被引用数 11

ひとこと要約

この論文は、大規模データ環境下でのベイesian後方分布からの効率的サンプリングを可能にする、再帰的でないMCMCアルゴリズム「Stochastic Bouncy Particle Sampler（SBPS）」を提案する。SBPSはミニバッチからの勾配推定値を用い、わずかな制御可能なバイアスを差し返すことで、著しく高速な混合と分散低減を実現する。既存のサブサンプリングベースの手法よりも優れているが、問題固有の境界値やパrameterチューニングを必要としない。

ABSTRACT

We introduce a novel stochastic version of the non-reversible, rejection-free Bouncy Particle Sampler (BPS), a Markov process whose sample trajectories are piecewise linear. The algorithm is based on simulating first arrival times in a doubly stochastic Poisson process using the thinning method, and allows efficient sampling of Bayesian posteriors in big datasets. We prove that in the BPS no bias is introduced by noisy evaluations of the log-likelihood gradient. On the other hand, we argue that efficiency considerations favor a small, controllable bias in the construction of the thinning proposals, in exchange for faster mixing. We introduce a simple regression-based proposal intensity for the thinning method that controls this trade-off. We illustrate the algorithm in several examples in which it outperforms both unbiased, but slowly mixing stochastic versions of BPS, as well as biased stochastic gradient-based samplers.

研究の動機と目的

• 大規模データにおけるMCMCの計算的ボトル neck を解消するため、スケーラブルで再帰的でないサンプリング手法を開発すること。
• 対数尤度勾配のノイズありミニバッチ推定値を用いて、ベイズ後方分布からの効率的サンプリングを可能にすること。
• 確率的MCMCアルゴリズムにおけるバイアスと混合効率の間の制御可能なトレードオフを導入すること。
• SBPSが既存のサブサンプリングベースのMCMC手法よりも収束速度と経験的平均の分散低減において優れていることを実証すること。

提案手法

• SBPSは、ミニバッチデータからのノイズあり勾配推定値を組み込み、折りたたみ線形軌道構造を保持するBouncy Particle Sampler（BPS）を拡張したものである。
• バウンス強度がノイズあり勾配推定値の上側信頼区間によって制御される、スパarsificationベースの提案メカニズムを用いる。
• バイアス-分散トレードオフを制御するための調整可能なハイパーパrameter $ k $ を導入し、これは予測標準偏差単位での上側信頼帯の幅を表す。
• ノイズあり推定値 $ \tilde{G}(t) $ に基づく確率的バウンスレートを採用し、有効なスパースニングを保証する提案強度 $ \gamma(t) $ を用いる。これにより、より高速な混合が可能になる。
• 悪条件の後方分布において性能を向上させるためのプリコンディショニング版も導入され、速度のリフレッシュメントと勾配スケーリングを適応的に制御する。
• ノイズ下での不変分布が近似的に正確に保たれることを保証し、確率的近似によって生じるバイアスについて理論的裏付けを提供する。

実験結果

リサーチクエスチョン

• RQ1 再帰的でないMCMCアルゴリズムBPSは、ノイズありミニバッチ勾配推定値を用いるように適応可能か？ その際、顕著なバイアスは生じないか？
• RQ2 BPSに確率的勾配を用いる場合のバイアスと混合効率のトレードオフは何か？ そして、そのトレードオフは制御可能か？
• RQ3 収束速度と経験的平均の分散という観点から、SBPSの性能は既存のサブサンプリングベースのMCMC手法と比べてどうか？
• RQ4 SBPSは、1イテレーションあたりの計算コストを削減しながらも、平衡状態への収束を高速に維持できるか？

主な発見

• ミニバッチ勾配を用いる場合、SBPSは標準BPSよりも平衡状態への収束が速く、より短い線形軌道と高いバウンス頻度のおかげである。
• SBPSの自己相関関数（ACF）は、計算コスト単位あたりの減衰が速く、混合効率が優れていることを示している。
• 小さなミニバッチサイズ（$ n = 50 $）では、低負の対数尤度（NLL）領域への収束が速くなるが、関数推定値の変動が激しい場合に分散が高くなる。
• 上側信頼帯幅 $ k $ の値が小さいほど、混合は速くなるがバイアスが増加する。トレースプロットでは、真の後方分布平均からのずれが顕著に見られる。
• スパースニングの上界違反確率は、$ k $ の増加に従って単調に減少し、バイアスの制御可能性が裏付けられている。
• ロジスティック回帰の実験では、$ n=100 $ かつ $ k=1 $ のSBPSが、ベースライン手法よりも収束が速く分散が低く、問題固有の境界値やチューニングを一切必要としなかった。