[论文解读] Rethinking resampling in the particle filter on graphics processing units

Lawrence M. Murray, Anthony Lee+1 more|arXiv (Cornell University)|Jan 17, 2013

Target Tracking and Data Fusion in Sensor Networks参考文献 22被引用 5

一句话总结

本文提出了一种新型的GPU粒子滤波重采样算法，通过使用Metropolis采样和拒绝采样替代传统的求和等集体操作，显著提升了单精度浮点数运算下的执行速度与数值稳定性，优于传统的多模、分层和系统性重采样方法。

ABSTRACT

Modern parallel computing devices such as the graphics processing unit (GPU) have gained significant traction in scientific computing, and are particularly well-suited to dataparallel algorithms such as the particle filter. Of the components of the particle filter, the resampling step is the most difficult to implement well on such devices, as it often requires a collective operation, such as a sum, across weights. We present and compare a number of resampling algorithms in this work, including rarelyused alternatives based on Metropolis and rejection sampling. We find that these alternative approaches perform significantly faster on the GPU than more common approaches such as the multinomial, stratified and systematic resamplers, a speedup attributable to the absence of collective operations. Moreover, in single-precision (particularly relevant on GPUs due to its faster performance), the common approaches are numerically unstable for plausibly large numbers of particles, while these alternative approaches are not. Finally, we provide a number of auxiliary functions of practical use in resampling, such as for the permutation of ancestry vectors to enable in-place propagation of particles.

研究动机与目标

• 解决GPU上粒子滤波重采样步骤的性能瓶颈，传统方法依赖于求和等集体操作。
• 克服在使用大量粒子时，单精度浮点数运算下常见重采样器的数值不稳定性问题。
• 探索并评估更适合GPU数据并行特性的替代重采样策略。
• 开发实用的GPU优化辅助函数，以支持高效的原地粒子传播。

提出的方法

• 基于Metropolis和拒绝采样设计重采样算法，避免使用前缀和或扫描等全局归约操作。
• 实现这些算法以完全数据并行方式运行，充分利用GPU的细粒度并行能力。
• 使用置换技术实现粒子的原地传播，降低内存带宽并提升缓存效率。
• 优化内存访问模式与内核启动方式，以最小化延迟并最大化GPU架构的占用率。
• 在多种重采样器（包括多模、分层、系统性及所提出的替代方法）之间比较性能与数值稳定性。
• 所有方法均在单精度浮点数运算下进行评估，因为现代GPU普遍采用此格式以获得性能优势。

实验结果

研究问题

• RQ1 与标准重采样器（如多模和系统性）相比，基于Metropolis和拒绝采样的重采样算法在GPU上的表现如何？
• RQ2 在使用大量粒子时，替代重采样器在单精度浮点数运算下在多大程度上避免了数值不稳定性？
• RQ3 能否通过消除集体操作实现更高吞吐量的GPU架构重采样算法？
• RQ4 哪些GPU优化的辅助函数可实际提升粒子传播的效率？
• RQ5 缺乏全局归约操作对现代GPU上粒子滤波的可扩展性与性能有何影响？

主要发现

• 基于Metropolis和拒绝采样的重采样器在GPU上的执行速度显著优于传统的多模、分层和系统性重采样器。
• 这些替代方法性能更高，原因在于避免了前缀和与归约等昂贵的集体操作。
• 在单精度浮点数运算中，标准重采样器在粒子数量较大时会出现数值不稳定性，而所提方法保持稳定。
• 所提算法即使在数万粒子的规模下仍能保持数值准确性，而传统方法在此情况下已失效。
• 作者实现了并发布了用于祖先向量置换的辅助函数，支持高效的原地粒子传播，显著降低了内存开销。
• 性能提升在GPU加速粒子滤波应用中典型的高吞吐量场景下最为显著。