[論文レビュー] Stratification and Optimal Resampling for Sequential Monte Carlo

Yichao Li, Wenshuo Wang+2 more|arXiv (Cornell University)|Apr 4, 2020

Markov Chains and Monte Carlo Methods参考文献 29被引用数 4

ひとこと要約

本稿では、順次モンテカルロ（SMC）手法におけるヒルベルト曲線に基づく階層的再サンプリングを提案し、多次元設定において再サンプリングの分散を低減し収束速度を向上させることを示している。d > 1 の場合、n 個の粒子を用いた順次準モンテカルロの平均二乗誤差が O(n^{-1-4/[d(d+4)]}) に達することを証明しており、これは o(n^{-1}) よりも小さい最初の既知の収束率である。

ABSTRACT

Sequential Monte Carlo (SMC), also known as particle filters, has been widely accepted as a powerful computational tool for making inference with dynamical systems. A key step in SMC is resampling, which plays the role of steering the algorithm towards the future dynamics. Several strategies have been proposed and used in practice, including multinomial resampling, residual resampling (Liu and Chen 1998), optimal resampling (Fearnhead and Clifford 2003), stratified resampling (Kitagawa 1996), and optimal transport resampling (Reich 2013). We show that, in the one dimensional case, optimal transport resampling is equivalent to stratified resampling on the sorted particles, and they both minimize the resampling variance as well as the expected squared energy distance between the original and resampled empirical distributions; in the multidimensional case, the variance of stratified resampling after sorting particles using Hilbert curve (Gerber et al. 2019) in $\mathbb{R}^d$ is $O(m^{-(1+2/d)})$, an improved rate compared to the original $O(m^{-(1+1/d)})$, where $m$ is the number of resampled particles. This improved rate is the lowest for ordered stratified resampling schemes, as conjectured in Gerber et al. (2019). We also present an almost sure bound on the Wasserstein distance between the original and Hilbert-curve-resampled empirical distributions. In light of these theoretical results, we propose the stratified multiple-descendant growth (SMG) algorithm, which allows us to explore the sample space more efficiently compared to the standard i.i.d. multiple-descendant sampling-resampling approach as measured by the Wasserstein metric. Numerical evidence is provided to demonstrate the effectiveness of our proposed method.

研究の動機と目的

• 高次元状態空間における再サンプリングの効率を向上させることを目的とし、分散を低減し収束速度を向上させる。
• R^d におけるヒルベルト空間充填曲線を用いて粒子を順序付けた場合の階層的再サンプリングの理論的性質を調査すること。
• ヒルベルト曲線に基づく再サンプリングと組み合わせた順次準モンテカルロ（SQMC）の改善された収束速度の理論的基盤を確立すること。
• 最適輸送再サンプリングが1次元において順序付けられた粒子上の階層的再サンプリングと等価であり、両者とも再サンプリングの分散とエネルギー距離の期待二乗を最小化することを示すこと。
• ヒルベルト曲線順序付けを用いて、元の分布と再サンプリングされた経験分布間の Wasserstein 距離に対するほとんど確実な上限を提供すること。

提案手法

• R^d におけるヒルベルト曲線を用いて粒子を事前にソートし、空間的構造を保持することでサンプリング効率を向上させる階層的再サンプリングを適用する。
• ヒルベルト曲線再サンプリング粒子の分散が O(m^{-(1+2/d)}) として減少することを証明し、無順序の階層的再サンプリングの標準的である O(m^{-(1+1/d)}) よりも改善されることを示す。
• 1次元において最適輸送再サンプリングと順序付けられた粒子上の階層的再サンプリングが等価であり、両者とも再サンプリングの分散と期待二乗エネルギー距離を最小化することを確立する。
• 元の分布とヒルベルト曲線再サンプリングされた経験分布間の Wasserstein 距離に対するほとんど確実な上限を導出する。
• ヒルベルト曲線再サンプリングを低不偏性列と組み合わせることで、順次準モンテカルロにおいて平均二乗誤差が O(n^{-1-4/[d(d+4)]}) に達することを実現する。
• 行列再サンプリングフレームワークを用いて、重みが不等である場合への一般化を図り、目的密度および提案密度のリプシッツ連続性および有界性条件の下での分散を分析する。

実験結果

リサーチクエスチョン

• RQ1 ヒルベルト曲線に基づく再サンプリングは多次元 SMC における再サンプリング分散を低減できるか？ もし可能であれば、どの程度の低減が達成されるか？
• RQ2 低不偏性列と組み合わせたヒルベルト曲線再サンプリング粒子を用いた順次準モンテカルロの理論的収束速度は何か？
• RQ3 1次元において最適輸送再サンプリングは順序付けられた粒子上の階層的再サンプリングと等価であるか？ 両者とも再サンプリング分散とエネルギー距離を最小化するか？
• RQ4 ヒルベルト曲線による粒子の空間的順序付けは、標準的階層的再サンプリングと比較して再サンプリング分散にどのような影響を与えるか？
• RQ5 提案された再サンプリング方式は、高次元 SMC 設定において平均二乗誤差の収束率を o(n^{-1}) よりも下回るか？

主な発見

• 1次元の場合、最適輸送再サンプリングは順序付けられた粒子上の階層的再サンプリングと等価であり、両者とも再サンプリング分散と期待二乗エネルギー距離を最小化する。
• d > 1 の場合、ヒルベルト曲線再サンプリング粒子の分散は O(m^{-(1+2/d)}) として減少し、無順序の階層的再サンプリングの標準的である O(m^{-(1+1/d)}) よりも改善されている。
• 改善された分散レート O(m^{-(1+2/d)}) は、順序付けられた階層的再サンプリングスキームにおいて達成可能な最小のレートであり、Gerber ら（2019）の予想を裏付ける。
• 元の分布とヒルベルト曲線再サンプリングされた経験分布間の Wasserstein 距離に対するほとんど確実な上限が確立された。
• 特定の低不偏性集合と組み合わせた場合、ヒルベルト曲線再サンプリングを用いた順次準モンテカルロは、平均二乗誤差が O(n^{-1-4/[d(d+4)]}) に達する。これは o(n^{-1}) よりも小さい最初の既知の収束率である。
• d=2 の確率的ボラティリティモデルにおいて、シミュレーションにより経験的 MSE 傾きが -4/3 に近づくことが示され、理論的レート O(n^{-1-4/[2(2+4)]}) = O(n^{-1-1/3}) = O(n^{-4/3}) と一致している。