[論文レビュー] Sequential Markov Chain Monte Carlo

Yun Yang, David B. Dunson|arXiv (Cornell University)|Aug 18, 2013

Bayesian Methods and Mixture Models参考文献 6被引用数 18

ひとこと要約

本稿では、逐次的モンテカルロ（SMC）で一般的に見られる粒子の劣化を回避するため、新しいデータが到着する度に後方分布を逐次的に更新する、集団ベースのMCMC手法である順序付きマルコフ連鎖モンテカルロ（SMCMC）を提案する。理論的保証のもとで周辺収束を保証し、高次元または非パラメトリックなモデルですべての状況で安定した混合を実現する。

ABSTRACT

We propose a sequential Markov chain Monte Carlo (SMCMC) algorithm to sample from a sequence of probability distributions, corresponding to posterior distributions at different times in on-line applications. SMCMC proceeds as in usual MCMC but with the stationary distribution updated appropriately each time new data arrive. SMCMC has advantages over sequential Monte Carlo (SMC) in avoiding particle degeneracy issues. We provide theoretical guarantees for the marginal convergence of SMCMC under various settings, including parametric and nonparametric models. The proposed approach is compared to competitors in a simulation study. We also consider an application to on-line nonparametric regression.

研究の動機と目的

• 完全なデータMCMCが計算的に非現実的であるオンラインでストリーミングされるデータ環境における、効率的なベイズ推論の課題に対処すること。
• 逐次的モンテカルロ（SMC）における粒子の劣化を、適応的リサンプリングと焼きなまし法を用いた集団ベースのMCMCアプローチによって克服すること。
• パラメトリックおよび非パラメトリックモデルの両方において、SMCMCの周辺収束に対する理論的保証を提供すること。
• バッチMCMCとは異なり、計算負荷を時間的に分散させることで、リアルタイムでの監視と推論を可能にすること。
• 時間的に変化する次元性を持つ非パラメトリック回帰や動的モデルに対応するスケーラブルなフレームワークの開発

提案手法

• 各時刻で遷移核 $T_t$ とジャンピング核 $J_t$ を用いて、サンプルの集団（アンサンブル）を更新する逐次的MCMCアルゴリズムを提案する。
• 高次元または複雑な後方分布空間においても混合を改善するため、ギブスサンプリングとメトロポリス・ハスティングス手順を組み合わせたハイブリッド遷移核を用いる。
• 各新しいデータポイントが到着する度にリサンプリングとリジェネレーションステップを実行する、逐次的更新スキームを導入する。
• 多重化されたターゲットを用いた焼きなまし法により、多峰性や高エネルギー領域での探索性を向上させる。
• 並列計算を活用することで、逐次的データ到着にもかかわらず、標準MCMCと同等の計算効率を維持する。
• 長期的記憶負荷を軽減しつつ真の後方分布への収束を保つために、忘却メカニズムまたはスライディングウィンドウ戦略を用いる。

実験結果

リサーチクエスチョン

• RQ1 オンラインベイズ推論において、粒子の劣化を回避しつつ理論的収束性を保証するような、逐次的MCMCフレームワークを設計できるか？
• RQ2 データが蓄積されるにつれて、遷移核 $T_t$ の混合特性がSMCMCの計算負荷と収束速度にどのように影響を与えるか？
• RQ3 SMCMCは、大幅に低いイテレーションコストとリアルタイムでの適応性を備えながら、バッチMCMCと同等の精度に到達できるか？
• RQ4 次元数が増加する非パラメトリックモデル、例えば非パラメトリックプロビット回帰に、SMCMCは効果的に適用可能か？
• RQ5 初期段階の数値誤差はどのように伝搬され、逐次的更新と焼きなまし法によって制御可能か？

主な発見

• SMCMCは、やや弱い正則性条件のもとで真の後方分布への周辺収束を達成し、混合と温度パラメータに依存する明示的な誤差バウンドを有する。
• リサンプリングと遷移核を通じてサンプルの多様性を維持するため、SMCが重みの劣化に苦しむのとは異なり、粒子の劣化を回避する。
• 非パラメトリックプロビット回帰の例では、$t > 100$ の場合、反復回数 $m_t$ が150〜200の範囲に安定し、サンプルサイズの増加に対しても混合が安定していることが示された。
• 総計算コストは $O(n^3)$ であり、バッチMCMCと同等であるが、作業が時間的に分散されているため、リアルタイム推論と監視が可能である。
• 高血圧リスクの当てはめ確率等高さ曲線は $t=350$ で安定し、$t=462$ でもほとんど変化しないため、後方推定値の収束が確認された。
• SMCMCの結果は、完全なバッチMCMC実行と区別がつかないため、実用的・実績的にその正確性と信頼性が検証された。