[论文解读] GPU acceleration of the particle filter: the Metropolis resampler

Lawrence M. Murray|arXiv (Cornell University)|Feb 28, 2012

Target Tracking and Data Fusion in Sensor Networks参考文献 8被引用 31

一句话总结

本文提出了用于GPU加速粒子滤波的Metropolis重采样器，通过利用独立线程的权重比而非集体前缀和，实现高效的单核执行。实验表明，当权重方差较低时，Metropolis重采样器在运行时间上优于标准的多项式和分层重采样器，使其在粒子MCMC和实时系统等性能关键应用中更具优势。

ABSTRACT

We consider deployment of the particle filter on modern massively parallel hardware architectures, such as Graphics Processing Units (GPUs), with a focus on the resampling stage. While standard multinomial and stratified resamplers require a sum of importance weights computed collectively between threads, a Metropolis resampler favourably requires only pair-wise ratios between weights, computed independently by threads, and can be further tuned for performance by adjusting its number of iterations. While achieving respectable results for the stratified and multinomial resamplers, we demonstrate that a Metropolis resampler can be faster where the variance in importance weights is modest, and so is worth considering in a performance-critical context, such as particle Markov chain Monte Carlo and real-time applications.

研究动机与目标

• 为解决GPU加速粒子滤波中因前缀和等集体操作导致的重采样性能瓶颈。
• 探索替代的重采样算法，通过最小化线程同步和内核启动开销，更好地利用GPU并行性。
• 评估Metropolis重采样器作为GPU环境中多项式与分层重采样器的高性能可行替代方案。
• 通过调节Metropolis迭代次数B，量化重采样精度与运行时间之间的权衡。
• 在粒子MCMC和实时贝叶斯推理等性能关键应用中实现更快的执行速度。

提出的方法

• Metropolis重采样器采用马尔可夫链蒙特卡罗方法，每个线程独立执行B次迭代，基于权重比选择祖先，避免集体操作。
• 每个线程从随机粒子索引开始，以接受概率 w_q / w_p 随机提出向其他粒子的移动，确保细致平衡。
• 重采样过程在所有线程间完全可并行化，仅需线程内随机数生成，无需全局同步。
• 迭代次数B通过分析方法推导，基于转移矩阵的谱间隙，确保在用户定义的误差容限ε内收敛。
• 该方法使用自定义CUDA内核实现，采用Tausworthe随机数生成，避免动态内存分配的开销。
• 通过在不同粒子数量和聚集参数下使用合成的狄利克雷分布权重，对多项式、系统化和分层重采样器进行性能评估。

实验结果

研究问题

• RQ1 能否设计一种重采样算法，避免前缀和等集体操作，从而提升GPU性能？
• RQ2 Metropolis重采样器是否在实现与多项式和分层重采样器相当的重采样精度的同时，实现GPU上的更快执行？
• RQ3 Metropolis迭代次数B如何影响运行时间与重采样偏差之间的权衡？
• RQ4 在何种条件下（如权重方差较低时），Metropolis重采样器在运行时间上优于标准重采样器？
• RQ5 Metropolis重采样器能否针对具有严格性能约束的实时或粒子MCMC应用进行有效调优？

主要发现

• Metropolis重采样器的精度与多项式重采样器相当，且随着B增大，误差收敛至多项式水平。
• 当 α = 1 且 P ≤ 4096 时，Metropolis重采样器在所有测试方法中速度最快，优于多项式和系统化重采样器。
• 在低权重方差条件下（α = 10 和 α = 1），当 P ≤ 4096 时，Metropolis重采样器因内核启动开销更低，运行速度优于多项式和系统化重采样器。
• 在高权重方差条件下（α = 0.1 和 α = 0.01），未排序的系统化重采样器在精度和运行时间上均表现最佳，因其排序开销更低。
• Metropolis重采样器的性能主要受随机数生成速度的限制，因此这是未来优化的主要目标。
• 对B的分析边界确保在指定容差范围内收敛，验证了该方法在性能约束下的可配置性与可靠性。