[論文レビュー] A simple scheme for the parallelization of particle filters and its application to the tracking of complex stochastic systems

Dan Crisan, Joaquı́n Mı́guez+1 more|arXiv (Cornell University)|Jul 30, 2014

Target Tracking and Data Fusion in Sensor Networks参考文献 19被引用数 6

ひとこと要約

本稿では、粒子フィルタの単純で完全に独立した並列化スキームを提案する。計算リソースをM個の並列フィルタに割り当て、各フィルタにN個の粒子を割り当て、その出力を平均化する。この手法は最適な収束レートを達成し、分散に対して1/(MN)、バイアスに対して1/N²の速度で減少する。これにより、正確性を損なわず、高速化が可能であることが、カオス的かつ高次元の確率的システムで検証された。

ABSTRACT

We investigate the use of possibly the simplest scheme for the parallelisation of the standard particle filter, that consists in splitting the computational budget into $M$ fully independent particle filters with $N$ particles each, and then obtaining the desired estimators by averaging over the $M$ independent outcomes of the filters. This approach minimises the parallelisation overhead yet displays highly desirable theoretical properties. Under very mild assumptions, we analyse the mean square error (MSE) of the estimators of 1-dimensional statistics of the optimal filtering distribution and show explicitly the effect of parallelisation scheme on the convergence rate. Specifically, we study the decomposition of the MSE into variance and bias components, to show that the former decays as $\frac{1}{MN}$, i.e., linearly with the total number of particles, while the latter converges towards $0$ as $\frac{1}{N^2}$. Parallelisation, therefore, has the obvious advantage of dividing the running times while preserving the (asymptotic) performance of the particle filter. Following this lead, we propose a time-error index to compare schemes with different degrees of parallelisation. Finally, we provide two numerical examples. The first one deals with the tracking of a Lorenz 63 chaotic system with dynamical noise and partial (noisy) observations, while the second example involves a dynamical network of modified FitzHugh-Nagumo (FH-N) stochastic nodes. The latter is a large dimensional system ($\approx3,000$ state variables in our computer experiments) designed to numerically reproduce typical electrical phenomena observed in the atria of the human heart. In both examples, we show how the proposed parallelisation scheme attains the same approximation accuracy as a centralised particle filter with only a small fraction of the running time, using a standard multicore computer.

研究の動機と目的

• 理論的収束保証を維持したまま、粒子フィルタの効率的な並列化を実現すること。
• 相互フィルタ通信や複雑なリサンプリングを必要とする従来の並列化スキームの高い計算オーバーヘッドを克服すること。
• 中央集権的な粒子フィルタの統計的正確性を維持しつつ、最小限のオーバーヘッドで並列化を実現する手法を開発すること。
• システムおよび観測モデルにややきつい正則性条件を課した場合の、提案スキームの厳密な収束解析を提供すること。
• Lorenz-63 や FitzHugh-Nagumo ネットワークなどの、高次元およびカオス的動的システムにおいて、この手法の有効性を示すこと。

提案手法

• 全計算リソースをM個の独立した粒子フィルタに分割し、各フィルタにN個の粒子を割り当て、フィルタ間の通信や相互作用を排除する。
• 1次元の統計量の推定器を、モンテカルロサンプリング、重み付きリサンプリング、および各フィルタの独立した実行を用いて計算する。
• M個の独立フィルタの出力を平均化して最終推定器を構築する。
• 平均二乗誤差（MSE）の解析を行い、バイアスと分散の成分に分解する。
• システムおよび観測モデルにややきつい正則性条件を課した場合、分散が1/(MN)、バイアスが1/N²の速度で減少することを理論的に示す。
• 並列化スキームの性能を、スピードアップと正確性のトレードオフに基づいて比較するための時間誤差インデックスを導入する。

実験結果

リサーチクエスチョン

• RQ1 完全に独立で相互作用のない粒子フィルタの並列化スキームは、最小限の計算オーバーヘッドで最適な収束レートを達成できるか？
• RQ2 提案されたスキームにおいて、推定器の平均二乗誤差（MSE）は、フィルタ数Mと粒子数Nの関数としてどのようにスケーリングされるか？
• RQ3 独立した並列化フレームワークにおいて、バイアスと分散の両者が全体のMSEに果たす相対的寄与度は何か？
• RQ4 このスキームは、複雑で高次元の確率的システムにおいて、実行時間を著しく短縮しながら正確性を維持できるか？
• RQ5 理論的保証と実用的効率の観点から、既存の並列粒子フィルタリングスキームと比較して、本手法はどのように差をつけるか？

主な発見

• 推定器の分散は、全粒子数に比例して線形に減少し、1/(MN) のレートで減少することが確認された。これは、並列化が推定の不確実性を効果的に低減していることを示している。
• 推定器のバイアスは、1/N² の速度でゼロに収束する。これは、各フィルタの粒子数を増やすことで、並列フィルタ数に依存せずに精度が向上することを示している。
• 提案されたスキームは、中央集権的な粒子フィルタと同等の漸近的正確性を達成するが、完全な並列化のおかげで著しく短い実行時間で実現できる。
• Lorenz-63 システムにおける数値実験では、並列化スキームが、計算時間のわずか一部で中央集権的フィルタと同等の正確性を達成した。
• 3,000次元の FitzHugh-Nagumo ネットワークモデルでは、標準的なマルチコアシステム上でも、中央集権的フィルタと同等の正確性を達成しながら、顕著な高速化を実現した。
• 時間誤差インデックスの結果から、独立した並列化スキームは、実行時間短縮と推定誤差のトレードオフにおいて優れた性能を示し、複雑なフィルタ間相互作用を伴うスキームを上回った。