[論文レビュー] Ancestor Sampling for Particle Gibbs

Fredrik Lindsten, Michael I. Jordan+1 more|arXiv (Cornell University)|Oct 25, 2012

Gaussian Processes and Bayesian Inference参考文献 20被引用数 28

ひとこと要約

本稿では、明示的な後向きスキャンが不要な後向きシミュレーションに類似した混合性能の向上を達成する、粒子ギブス法と祖先サンプリングを組み合わせた新規な粒子MCMC手法、PG-ASを提案する。祖先サンプリングと切断戦略を組み合わせることで、非マルコフ型状態空間モデルにおける混合誤差を顕著に低減し、シミュレーションスタディにおいてPG-BSに比べて最大10倍の精度向上を示した。

ABSTRACT

We present a novel method in the family of particle MCMC methods that we refer to as particle Gibbs with ancestor sampling (PG-AS). Similarly to the existing PG with backward simulation (PG-BS) procedure, we use backward sampling to (considerably) improve the mixing of the PG kernel. Instead of using separate forward and backward sweeps as in PG-BS, however, we achieve the same effect in a single forward sweep. We apply the PG-AS framework to the challenging class of non-Markovian state-space models. We develop a truncation strategy of these models that is applicable in principle to any backward-simulation-based method, but which is particularly well suited to the PG-AS framework. In particular, as we show in a simulation study, PG-AS can yield an order-of-magnitude improved accuracy relative to PG-BS due to its robustness to the truncation error. Several application examples are discussed, including Rao-Blackwellized particle smoothing and inference in degenerate state-space models.

研究の動機と目的

• SMCにおけるパスの劣化が原因で非マルコフ型状態空間モデルにおいて粒子ギブス（PG）の混合性能が著しく低下する問題に対処すること。
• 別個の後向きスキャンを必要とせずに、後向きシミュレーションの利点を達成する手法を開発すること。
• 非マルコフ型モデルに特化した切断戦略を導入し、近似誤差を低減すること。
• 従来の後向きシミュレーションに基づく手法と比較して、計算効率とメモリ使用量を改善すること。
• 劣化や非マルコフ型モデルを含む困難な推論問題においても、頑健な性能を示すこと。

提案手法

• PGフレームワークに祖先サンプリングを統合することで、1回の前向きスキャンで後向きシミュレーションに類似した効果を再現する、粒子ギブスと祖先サンプリングを組み合わせた手法（PG-AS）を提案する。
• 後向き重みの切断戦略を新たに考案し、計算コストを制限しながらも、特に非マルコフ型モデルにおいて高い精度を維持する。
• 潜在状態を条件付き十分統計量とみなすことにより、ラオ＝ブラックウェルド粒子スムージングおよび劣化状態空間モデルにおける推論に本手法を適用する。
• 関連スムージング密度 $ p(x_{1:T} mid heta, y_{1:T}) $ を標本とする順次モンテカルロ（SMC）サンプラーを用い、祖先サンプリングが明示的な後向きシミュレーションを置き換える。
• パラメータ $ au $ と $ \bar{\gamma} $ を用いた適応的切断を実装し、精度と効率のバランスを動的に調整する。
• 重要度再標本化と祖先の系列追跡を用いて完全な状態軌道を生成し、補助的SMCフレームワーク内での調整乗数により重みを調整する。

実験結果

リサーチクエスチョン

• RQ1 明示的な後向きスキャンが不要な状況で、祖先サンプリングを用いて後向きシミュレーションに類似した混合性能の向上を達成できるか？
• RQ2 非マルコフ型状態空間モデルにおける推論精度に、後向き重みの切断がどのように影響するか？
• RQ3 非マルコフ型設定において、PG-ASはPG-BSに比べて切断誤差に対してより頑健か？
• RQ4 標準的なPGが失敗する劣化や非マルコフ型モデルに対しても、PG-ASは効率的に適用可能か？
• RQ5 PG-BSに比べて、PG-ASはより優れたメモリ効率と実装の簡潔さを提供するか？

主な発見

• 非マルコフ型モデルを含むシミュレーションスタディにおいて、PG-ASはPG-BSに比べて最大10倍の精度向上を達成した。
• 切断誤差に対して頑健であり、平均的な切断レベルは2.3であり、$ \gamma $ と $ \tau $ の手動チューニングが不要であった。
• PG-ASは、5000個の粒子を用いたPMHと同等の性能を示し、わずか5個の粒子で真の軌道とパラメータ $ \theta $ の正確な事後分布推定が可能であった。
• 真の後向きサンプリング分布と近似された分布との間のカルバック・ライブラー発散は、$ A \frac{e^{-c(p+1)} - e^{-c(M+1)}}{1 - e^{-c}} $ で有界であり、理論的収束性を保証する。
• 中間の後向きシミュレーション状態を保存する必要がなくなるため、PG-BSに比べてメモリ使用量を削減し、実装を簡素化した。
• ラオ＝ブラックウェルドスムージングや劣化状態空間モデルを含む広範なモデルに適用可能であり、アルゴリズムの変更を最小限に抑えられる。