[論文レビュー] Unifying Sequential Monte Carlo with Resampling Matrices

Robert J. Webber|arXiv (Cornell University)|Mar 29, 2019

Mathematical Approximation and Integration参考文献 19被引用数 5

ひとこと要約

本稿は、逐次モンテカルロ（SMC）アルゴリズムにおける統一的な行列リサンプリング枠組みを導入し、多様なリサンプリング手法の体系的分析と比較を可能にする。誤差を最小化するリサンプリング行列を同定し、ストラティファイドおよびストラティファイドリザルトリサンプリングに対する初めての漸近的誤差公式を導出する。これにより、SMC応用における最適なリサンプリング選択の理論的裏付けが得られる。

ABSTRACT

Sequential Monte Carlo (SMC) is a class of algorithms that approximate high-dimensional expectations of a Markov chain. SMC algorithms typically include a resampling step. There are many possible ways to resample, but the relative advantages of different resampling schemes remains poorly understood. Here, a theoretical framework for comparing resampling schemes is presented. The framework uses resampling matrices to provide a simple description for the SMC resampling step. The framework identifies the matrix resampling scheme that gives the lowest possible error. The framework leads to new asymptotic error formulas that can be used to compare different resampling schemes.

研究の動機と目的

• 逐次モンテカルロ（SMC）アルゴリズムにおける多様なリサンプリング手法を統一し、体系的に分析すること。
• 特にストラティファイドおよびリザルト手法を含む現代のリサンプリング手法に対する理論的比較ツールの不足に応えること。
• SMCにおけるリサンプリング誤差を最小化するリサンプリング行列を同定すること。
• これまで分析が不十分であったリサンプリング手法の広いクラスに適用可能な、新たな漸近的誤差公式を導出すること。
• SMC応用における最適なリサンプリング戦略の選択の理論的基盤を提供すること。

提案手法

• リサンプリング行列を用いて、さまざまなリサンプリング手法を表現・統一する行列リサンプリングフレームワークを導入する。
• リサンプリング行列を、粒子の重み付き経験測度を保存する確率的遷移核として定義する。
• 行列フレームワーク下で、SMC推定量の不偏性、ほとんど確実収束、および分散上界を証明する。
• マルティンゲールの議論を用いて、SMC推定量の一貫性と収束性を確立する。
• 異なるリサンプリング手法におけるリサンプリング分散の極限的挙動を分析することで、漸近的分散公式を導出する。
• L^2射影と経験測度の収束を用いて、リサンプリング分散をバウンドし、手法間の比較を行う。

実験結果

リサーチクエスチョン

• RQ1 逐次モンテカルロにおける多様なリサンプリング手法を統一する理論的枠組みは何か？
• RQ2 SMCアルゴリズムにおけるリサンプリング誤差を最小化するリサンプリング行列は何か？
• RQ3 これまでの分析が不十分であったストラティファイドリサンプリングおよびストラティファイドリザルトリサンプリングの漸近的誤差境界は何か？
• RQ4 共通の数学的形式主義を用いて、リサンプリングステップを体系的に分析・比較する方法は何か？
• RQ5 一般のリサンプリング行列のもとで、SMC推定量の収束性と不偏性を保証する条件は何か？

主な発見

• 行列リサンプリングフレームワークは、広範なリサンプリング手法を統一的に記述し、SMC推定量の不偏性と収束性を保証する。
• リサンプリング誤差を最小化するリサンプリング行列は、フレームワーク内での最適選択と同定される。
• ストラティファイドリサンプリングおよびストラティファイドリザルトリサンプリングに対する、初めての漸近的誤差公式が導出される。
• マルチノミアルリサンプリングの場合、漸近的分散は確率的に $ \operatorname{E}\left[\prod_{s=0}^{t}G_{s}\right]\operatorname{E}\left[\prod_{s=0}^{t}G_{s}\left|h_{t}-\frac{\operatorname{E}\left[\prod_{s=0}^{t}G_{s}h_{t}\right]}{\operatorname{E}\left[\prod_{s=0}^{t}G_{s}\right]}\right|^{2}\right] $ に収束する。
• マルチノミアルリザルトリサンプリングの場合、漸近的分散は確率的に $ \frac{\left(\operatorname{E}\left[\prod_{s=0}^{t}G_{s}\right]\right)^{2}}{\operatorname{E}\left[\prod_{s=0}^{t-1}G_{s}\right]}\operatorname{E}\left[\prod_{s=0}^{t-1}G_{s}\left\{\tilde{G}_{t}\right\}\left|h_{t}-\frac{\operatorname{E}\left[\prod_{s=0}^{t-1}G_{s}\left\{\tilde{G}_{t}\right\}h_{t}\right]}{\operatorname{E}\left[\prod_{s=0}^{t-1}G_{s}\left\{\tilde{G}_{t}\right\}\right]}\right|^{2}\right] $ に収束する。
• ベルヌーイリサンプリングのリサンプリング分散は確率的に $ \frac{\left(\operatorname{E}\left[\prod_{s=0}^{t}G_{s}\right]\right)^{2}}{\operatorname{E}\left[\prod_{s=0}^{t-1}G_{s}\right]}\operatorname{E}\left[\prod_{s=0}^{t-1}G_{s}\left\{\tilde{G}_{t}\right\}\left(1-\left\{\tilde{G}_{t}\right\}\right)h_{t}^{2}\right] $ に収束する。