[论文解读] A simple scheme for the parallelization of particle filters and its application to the tracking of complex stochastic systems

Dan Crisan, Joaquı́n Mı́guez+1 more|arXiv (Cornell University)|Jul 30, 2014

Target Tracking and Data Fusion in Sensor Networks参考文献 19被引用 6

一句话总结

该论文提出了一种简单且完全独立的粒子滤波并行化方案，将计算预算分配给M个并行滤波器，每个滤波器包含N个粒子，并对它们的输出进行平均。该方法实现了最优收敛速率——方差衰减为1/(MN)，偏差衰减为1/N²，从而在不损失准确性的前提下实现了显著的加速，已在混沌系统和高维随机系统上得到验证。

ABSTRACT

We investigate the use of possibly the simplest scheme for the parallelisation of the standard particle filter, that consists in splitting the computational budget into $M$ fully independent particle filters with $N$ particles each, and then obtaining the desired estimators by averaging over the $M$ independent outcomes of the filters. This approach minimises the parallelisation overhead yet displays highly desirable theoretical properties. Under very mild assumptions, we analyse the mean square error (MSE) of the estimators of 1-dimensional statistics of the optimal filtering distribution and show explicitly the effect of parallelisation scheme on the convergence rate. Specifically, we study the decomposition of the MSE into variance and bias components, to show that the former decays as $\frac{1}{MN}$, i.e., linearly with the total number of particles, while the latter converges towards $0$ as $\frac{1}{N^2}$. Parallelisation, therefore, has the obvious advantage of dividing the running times while preserving the (asymptotic) performance of the particle filter. Following this lead, we propose a time-error index to compare schemes with different degrees of parallelisation. Finally, we provide two numerical examples. The first one deals with the tracking of a Lorenz 63 chaotic system with dynamical noise and partial (noisy) observations, while the second example involves a dynamical network of modified FitzHugh-Nagumo (FH-N) stochastic nodes. The latter is a large dimensional system ($\approx3,000$ state variables in our computer experiments) designed to numerically reproduce typical electrical phenomena observed in the atria of the human heart. In both examples, we show how the proposed parallelisation scheme attains the same approximation accuracy as a centralised particle filter with only a small fraction of the running time, using a standard multicore computer.

研究动机与目标

• 解决高效并行化粒子滤波的同时保持理论收敛保证的挑战。
• 克服现有并行方案中因需要滤波器间通信或复杂重采样而带来的高计算开销。
• 开发一种计算开销极小的并行化方法，同时保持集中式粒子滤波的统计准确性。
• 在较弱假设下，为所提出的方案提供严格的收敛性分析。
• 在高维和混沌动力系统（如Lorenz-63和FitzHugh-Nagumo网络）上展示该方法的有效性。

提出的方法

• 将总计算预算划分为M个独立的粒子滤波器，每个滤波器包含N个粒子，从而消除滤波器间的通信与交互。
• 通过蒙特卡洛采样、加权重采样以及每个滤波器独立执行的方式，计算过滤分布的一维统计量的估计器。
• 通过平均M个独立滤波器的输出结果，形成最终的估计器。
• 分析平均估计器的均方误差（MSE），并将其分解为偏差和方差两部分。
• 在系统和观测模型满足较弱正则性条件的前提下，建立理论界，表明方差衰减为1/(MN)，偏差衰减为1/N²。
• 引入时间-误差指数，用于基于加速与精度权衡比较不同的并行化方案。

实验结果

研究问题

• RQ1 是否能够实现一种完全独立、非交互式的粒子滤波并行化方案，以在最小计算开销下达到最优收敛速率？
• RQ2 在所提出的方案中，估计器的均方误差（MSE）如何随滤波器数量M和粒子数N变化？
• RQ3 在独立并行化框架中，偏差和方差对整体MSE的相对贡献是什么？
• RQ4 该方案是否能在复杂、高维随机系统上显著减少运行时间的同时保持准确性？
• RQ5 与现有并行粒子滤波方案相比，该方法在理论保证和实际效率方面表现如何？

主要发现

• 估计器的方差随总粒子数线性衰减，衰减速率为1/(MN)，证实并行化能有效降低估计不确定性。
• 估计器的偏差以1/N²的速率收敛至零，表明增加每个滤波器的粒子数可独立于并行滤波器数量提升准确性。
• 所提出的方案在渐近精度上与集中式粒子滤波器相当，但由于完全并行化，运行时间显著减少。
• 在Lorenz-63系统上的数值实验表明，该并行方案仅用极小部分的计算时间，即可达到集中式滤波器的精度。
• 在3,000维的FitzHugh-Nagumo网络模型中，该方法在标准多核系统上实现了与集中式滤波器相当的精度，且具有显著的加速效果。
• 时间-误差指数表明，该独立并行化方案在运行时间减少与估计误差之间提供了有利的权衡，优于具有复杂滤波器间交互的方案。