[論文レビュー] Unbiased Smoothing using Particle Independent Metropolis-Hastings

Lawrence Middleton, George Deligiannidis+2 more|arXiv (Cornell University)|Feb 5, 2019

Markov Chains and Monte Carlo Methods被引用数 16

ひとこと要約

本稿は、共通の乱数と結合されたリサンプリング戦略を用いて、2つの独立な粒子インポートランス・メトロポリス・ハスティングス（PIMH）連鎖を結合することで、状態空間モデルにおける不偏ベイズスムージングのための新規で容易に実装可能な手法を提案する。この手法は、既存の粒子フィルタの変更なしにスムージング期待値の不偏推定量を生成でき、並列計算における有効な信頼区間の構築を可能にし、実用的・理論的両面で偏りのある代替手法を上回る性能を示す。

ABSTRACT

We consider the approximation of expectations with respect to the distribution of a latent Markov process given noisy measurements. This is known as the smoothing problem and is often approached with particle and Markov chain Monte Carlo (MCMC) methods. These methods provide consistent but biased estimators when run for a finite time. We propose a simple way of coupling two MCMC chains built using Particle Independent Metropolis-Hastings (PIMH) to produce unbiased smoothing estimators. Unbiased estimators are appealing in the context of parallel computing, and facilitate the construction of confidence intervals. The proposed scheme only requires access to off-the-shelf Particle Filters (PF) and is thus easier to implement than recently proposed unbiased smoothers. The approach is demonstrated on a Lévy-driven stochastic volatility model and a stochastic kinetic model.

研究の動機と目的

• 観測ノイズが存在する隠れマルコフ過程の事後分布下での期待値の不偏推定量を構築すること、これはスムージングと呼ばれる問題である。
• 有限時間で実行される標準的な粒子フィルタおよびMCMC手法が、一貫性は保つが偏りのある推定量を生成するという限界を克服すること。
• 既存の粒子フィルタのオフザシェル実装へのアクセスのみを必要とし、複雑なアルゴリズム的変更を避ける、実用的でモジュラーな解決策を提供すること。
• 不偏推定量を活用することで、並列計算環境において漸近的に有効な信頼区間を構築できること。
• 遷移核に確率的な数の確率変数を含むモデル、特に先行手法が失敗するようなモデルへの不偏スムージングの適用可能性を拡張すること。

提案手法

• 共通の乱数と同期化されたリサンプリング戦略を用いて、2つの独立なPIMH連鎖を結合し、マルコフ連鎖に結合を生じさせる。
• PIMHアルゴリズム内での提案分布として標準的な粒子フィルタ（PF）を活用し、下位のPF実装に対する変更は一切不要である。
• 結合により、2つの連鎖が確率的に有限時間内に一致することが保証され、ベルヌーイレースのトリックを用いて不偏推定量の生成が可能になる。
• 2つの連鎖の一致時刻を用いて、停止時刻スキームにより不偏推定量を構築し、バイアスがゼロであることを保証する。
• Lévy駆動過程のような、遷移核に確率的数の確率変数を含むモデルに対しても、強靭な適応性を示す。
• 一部の先行結合手法とは異なり、遷移密度の点별評価を必要としないため、複雑なモデルへの適用性が向上する。

実験結果

リサーチクエスチョン

• RQ1 粒子フィルタの変更や遷移密度の点別評価を一切行わずに、状態空間モデルにおけるスムージング期待値の不偏推定量を構築できるか？
• RQ2 既存の粒子フィルタ実装と互換性を保ちつつ、計算可能性を維持したまま不偏性を確保する方法は何か？
• RQ3 粒子数 $N$ の変化が、結合PIMH連鎖の期待一致時刻および計算効率に与える影響は何か？
• RQ4 本手法は、Lévy駆動確率的ボラティリティモデルのような、遷移機構のサイズが確率的なモデルにも適用可能か？
• RQ5 信頼区間の有効性と分散制御の観点から、不偏推定量は偏りのある代替手法に比べてどのように性能を発揮するか？

主な発見

• 提案手法は、2つのPIMH連鎖の結合により、スムージング期待値の不偏推定量を生成し、並列計算環境における有効な信頼区間の構築を可能にする。
• 粒子フィルタの変更なしに、オフザシェルPFと結合リサンプリング戦略のみに依存することで不偏性を達成する。
• 500個のデータポイントを持つLévy駆動確率的ボラティリティモデルにおける実験では、$N=100$粒子でスポットボラティリティ $W_t$ の不偏推定量が一貫性を保ち、良好に推定されている。
• 1,000回の実行における一致時刻の経験的分布は、大標本近似とよく一致しており、理論的仮定の妥当性が裏付けられている。
• 推定量の計算非効率性、すなわち $(m-k+1) ext{Var}[H_{k:m}]/( ext{Var}_\pi[h]\sigma^2)$ は、$m\to\infty$ のとき理論的最小値のおおよそ 0.92 に近づき、高い効率性を示している。
• 本手法は、遷移核に確率的数の確率変数を含むモデル、例えば確率的キネティックモデルに対しても適用可能であり、先行手法が失敗するような状況でも有効である。