[論文レビュー] Scalable Monte Carlo inference for state-space models

Sinan Yıldırım, Christophe Andrieu+1 more|arXiv (Cornell University)|Sep 7, 2018

Simulation Techniques and Applications参考文献 25被引用数 5

ひとこと要約

本稿では、一様な乱雑性を共有する1つのソースを用いて分散を低減する、状態空間モデルにおける新しい尤度比推定手法を提案する。この手法は、連携条件付き順次モンテカルロ（cSMC）と焼きなまし重要度サンプリング（AIS）を統合したフレームワークに基づく。これにより、データサイズに比例して線形にスケーリングする、正確な近似MCMCアルゴリズムの新分野が可能となり、大規模データセットにおいて標準的なPMHHを凌駕する計算効率を実現する。

ABSTRACT

We present an original simulation-based method to estimate likelihood ratios efficiently for general state-space models. Our method relies on a novel use of the conditional Sequential Monte Carlo (cSMC) algorithm introduced in \citet{Andrieu_et_al_2010} and presents several practical advantages over standard approaches. The ratio is estimated using a unique source of randomness instead of estimating separately the two likelihood terms involved. Beyond the benefits in terms of variance reduction one may expect in general from this type of approach, an important point here is that the variance of this estimator decreases as the distance between the likelihood parameters decreases. We show how this can be exploited in the context of Monte Carlo Markov chain (MCMC) algorithms, leading to the development of a new class of exact-approximate MCMC methods to perform Bayesian static parameter inference in state-space models. We show through simulations that, in contrast to the Particle Marginal Metropolis-Hastings (PMMH) algorithm of Andrieu_et_al_2010, the computational effort required by this novel MCMC scheme scales very favourably for large data sets.

研究の動機と目的

• 状態空間モデル（SSM）におけるスケーラブルで低分散の尤度比推定器を開発し、効率的なベイズ推論を可能にすること。
• 特に大規模データセットにおいて尤度評価が計算的に不正則である問題に対処すること。
• データサイズに伴い良好にスケーリングするが、正確な周辺定常性を維持するMCMCアルゴリズムを設計すること。
• cSMC-AISにおける共有された乱雑性の分散低減特性を活用し、サンプリング効率を向上させること。
• PMMHなどの既存手法と比較して、混合性能と計算コストの両面で優れることが実証されること。

提案手法

• 条件付きSMC（cSMC）と焼きなまし重要度サンプリング（AIS）を統合し、独立して分子と分母を推定するのではなく、1つの乱雑性源を共有して尤度比を共同で推定する。
• cSMC-BSフレームワークにおけるバックワードサンプリングステップを用いることで、尤度比推定器の品質を向上させ、分散を低減する。
• 推定器をMCMCアルゴリズムに統合し、静的パラメータと潜在状態の共同事後分布を標本化する、新しい正確な近似MCMCスキームを構築する。
• アルゴリズムはcSMCカーネルを用いて潜在状態の提案を生成し、重要度重みはAISパスから導出される。
• パラメータ値θとθ′の距離が小さくなるほど、尤度比推定器の分散が減少するように設計されている。
• 線形ガウス状態空間モデルを用いたシミュレーションにより、PMMHおよびMwPGと性能を比較して妥当性を検証した。

実験結果

リサーチクエスチョン

• RQ1 cSMC-AISにおける共有された乱雑性を用いた尤度比の共同推定は、独立推定と比較して分散を低減できるか？
• RQ2 提案されたMCMCアルゴリズムは、標準的なPMHHが二次的スケーリングを示すのとは異なり、データポイント数Tに比例して線形にスケーリングするか？
• RQ3 静的パラメータの統合自己相関時間（IAC）の観点から、新規MCMCスキームはPMMHおよびMwPGと比較してどのように性能を発揮するか？
• RQ4 θとθ′が近づくにつれて尤度比推定器の分散が低下し、より効率的なMCMC探索が可能になるか？
• RQ5 cSMC-AISフレームワークを用いて、詳細つり合いと正確な周辺定常性を維持する正確な近似MCMCアルゴリズムを構築できるか？

主な発見

• MCMC AIS cSMC-BSアルゴリズムは、PMMHと比較して統合自己相関時間（IAC）が著しく低く、K=1、N₀=500の設定でσ²_vの中央値が17.7、σ²_wが20.9であった。
• 大規模なT（例：T=10,000）において、PMMHのIACは著しく増加する（例：σ²_vで7,368）が、MCMC AIS cSMC-BSはIACが約17.6で安定を保ち、優れたスケーラビリティを示した。
• MCMC AIS cSMC-BSは、すべてのテストされたTおよびN設定において、MwPGを常に上回るIAC性能を示した。
• θとθ′の距離が小さくなるほど、尤度比推定器の分散が低下し、より効率的なMCMC更新が可能になった。
• 理論的分析（i.i.d.ケース）が示す通り、計算コストがTに線形にスケーリングするのに対し、標準的なPMHHは二次的スケーリングを示す。実験的結果は、この予測を裏付けた。
• 実証的結果から、cSMC-BSステップが性能に不可欠であることが確認された。MCMC AIS cSMC-BSは、バックワードサンプリングを含まないMCMC AIS cSMCよりも優れた性能を示した。