[論文レビュー] Parameter elimination in particle Gibbs sampling

Anna Wigren, Riccardo Sven Risuleo+2 more|arXiv (Cornell University)|Oct 30, 2019

Statistical Methods and Bayesian Inference被引用数 4

ひとこと要約

本稿では、状態空間モデルにおけるベイズ推論を向上させるために、状態更新ステップからパラメータを除外するためのマージナライズド・パーティクル・ギブス（mPG）およびマージナライズド・パーティクル・ギブス・アラート・サンプリング（mPGAS）を提案する。共役事前分布を用いてパラメータをマージナライズすることで、極限において独立なサンプルが得られ、標準的なPG/PGASに比べて自己相関が低減される。同時に、十分統計量を用いることで、マージナライズによって生じる非マルコフ性に対しても線形時間計算量を維持する。

ABSTRACT

Bayesian inference in state-space models is challenging due to high-dimensional state trajectories. A viable approach is particle Markov chain Monte Carlo, combining MCMC and sequential Monte Carlo to form "exact approximations" to otherwise intractable MCMC methods. The performance of the approximation is limited to that of the exact method. We focus on particle Gibbs and particle Gibbs with ancestor sampling, improving their performance beyond that of the underlying Gibbs sampler (which they approximate) by marginalizing out one or more parameters. This is possible when the parameter prior is conjugate to the complete data likelihood. Marginalization yields a non-Markovian model for inference, but we show that, in contrast to the general case, this method still scales linearly in time. While marginalization can be cumbersome to implement, recent advances in probabilistic programming have enabled its automation. We demonstrate how the marginalized methods are viable as efficient inference backends in probabilistic programming, and demonstrate with examples in ecology and epidemiology.

研究の動機と目的

• 粒子ギブス・サンプリングおよびPGASの限界、すなわちそれらが近似する不確実なギブス・サンプリングを上回れないことに対処すること。
• 状態更新ステップからパラメータを除外することで、MCMCサンプルの自己相関を低減すること。
• 共役事前分布を有する状態空間モデルに対して、非マルコフ的だが線形スケーラブルな形に変換することで、効率的な推論を可能にすること。
• Birchのような確率的プログラミングフレームワークにおけるマージナライズドPMCMC手法の実現可能性と効率性を示すこと。
• 現代の確率的プログラミングツールを用いて、パラメータのマージナライズを実用的かつ自動化されたアプローチで提供すること。

提案手法

• 事前分布と完全データ尤度の間の共役性を活用し、状態更新から静的パラメータをマージナライズする。
• PGおよびPGASのマージナライズド版（mPG/mPGAS）を導出する。これらはパラメータに依存しない状態の事後分布 p(x₀:T|y₁:T) から状態をサンプリングする。
• SMCアルゴリズムにおいて十分統計量を用いることで、マージナライズによって生じる非マルコフ的依存性に対しても線形時間計算量を維持する。
• 確率的プログラミング言語Birchにこの手法を実装し、自動的なマージナライズと既存の推論パイプラインへの統合を可能にする。
• 広範な事前分布を扱うためのブロッキング戦略を用い、cSMCとmcSMCの更新を組み合わせることで、より高いロバストネスを達成する。
• 最近の確率的プログラミングの進展を活用し、マージナライズを自動化することで、手動での実装負荷を低減する。

実験結果

リサーチクエスチョン

• RQ1 粒子ギブス・サンプリングにおける状態更新からパラメータをマージナライズすることで、標準的なPG/PGASに比べて混合速度が向上し、自己相関が低減するか？
• RQ2 パラメータのマージナライズにより、元のギブス・サンプリングが依存したサンプルを生成する場合でも、無限に多くの粒子の極限において、近似的に独立なサンプルが得られるか？
• RQ3 マージナライズによって非マルコフ的依存性が導入されたとしても、マージナライズドSMCの計算コストは、タイムステップ数に対して線形に保たれるか？
• RQ4 マージナライズを確率的プログラミングフレームワークに自動化し、実用的に統合するにはどうすればよいか？
• RQ5 実世界の生態学的および疫学的モデルに、マージナライズドPMCMCを適用した際の性能向上と限界は何か？

主な発見

• mPGおよびmPGASは、無限に多くの粒子の極限において、自己相関関数がラグ1でゼロに低下するという点で、独立なサンプルが得られることを示している。これに対して、標準的なPGASは相関の高いギブス・サンプリングに収束する。
• マージナライズド・サンプラーは自己相関を顕著に低減しており、合成および実世界のモデルの両方において、PGおよびPGASに比べてmPGがより速い収束と低い依存性を示している。
• オオセンニョウの個体群モデルにおいて、密度制御パラメータcの推定分布は文献値と一致しており、本手法の正確性が裏付けられた。
• マージナライズ後は非マルコフ的になるが、十分統計量を用いることで、線形時間計算量を維持している。
• 数値結果から、mPGおよびmPGASは、特に高次元状態空間において、有効サンプルサイズおよび収束速度の点で標準的なPGASを上回っていることが示された。
• Birchにおける実装により、自動マージナライズが可能であり、本手法が実用的で、現代の確率的プログラミングワークフローに統合可能であることが実証された。