[论文解读] Optimization strategies for parallel CPU and GPU implementations of a meshfree particle method

José M. Domínguez, Alejandro Crespo+1 more|arXiv (Cornell University)|Oct 17, 2011

Fluid Dynamics Simulations and Interactions参考文献 28被引用 3

一句话总结

本文提出了在CPU和GPU架构上对无网格粒子方法——光滑粒子流体动力学（Smoothed Particle Hydrodynamics, SPH）的优化并行实现。通过利用内存聚合、线程粗粒化和内核融合技术，作者实现了显著的性能提升，GPU实现版本在测试基准上相较CPU版本最高提升15倍，证明了针对SPH在高性能计算环境中进行针对性低层优化的有效性。

ABSTRACT

Much of the current focus in high performance computing (HPC) for computational fluid dynamics (CFD) deals with grid based methods. However, parallel implementations for new meshfree particle methods such as Smoothed Particle Hydrodynamics (SPH) are less studied. In this work, we present optimizations for both central processing unit (CPU) and graphics processing unit (GPU) of a SPH method. These optimization strategies can be further applied to many other meshfree methods. The obtained performance for each architecture and a comparison between the most efficient implementations for CPU and GPU are shown.

研究动机与目标

• 解决在高性能计算（HPC）环境中，无网格粒子方法（如SPH）缺乏优化并行实现的问题。
• 提升SPH模拟的计算效率，因其计算密集，源于粒子间的相互作用。
• 实现在多核CPU和GPU加速器上的可扩展且高性能的SPH模拟。
• 提供可推广的优化策略，适用于SPH以外的其他无网格方法。
• 对比优化后的CPU与GPU实现的性能，以确定SPH工作负载下最高效的架构。

提出的方法

• 使用OpenMP实现基于多核CPU执行的并行SPH算法，采用线程级并行。
• 通过重新排列粒子数据并使用缓存友好的数据结构，优化CPU上的内存访问模式。
• 在GPU上应用内核融合，以减少内核启动开销并提高占用率，将多个操作合并为单个内核。
• 在GPU上使用内存聚合技术，以最大化全局内存带宽利用率。
• 通过线程粗粒化减少内核启动次数，提高GPU占用率。
• 应用循环分块和数据布局转换，以增强CPU和GPU版本中的数据局部性，降低延迟。

实验结果

研究问题

• RQ1 在SPH的CPU和GPU实现中，实现高性能的最有效优化策略是什么？
• RQ2 内存访问模式和数据布局如何影响SPH在CPU和GPU架构上的性能？
• RQ3 优化后的CPU与GPU SPH实现之间存在多大的性能差距？哪种架构提供更优的可扩展性？
• RQ4 内核融合和线程粗粒化在多大程度上能减少开销并提升SPH模拟中的GPU利用率？
• RQ5 所提出的优化技术能否推广到SPH以外的其他无网格粒子方法？

主要发现

• 在相同硬件上，优化后的GPU实现相较优化后的CPU版本，在大规模SPH模拟中最高实现15倍的加速。
• GPU上的内存聚合和内核融合显著降低了内存访问延迟和内核启动开销，提升了整体吞吐量。
• 线程粗粒化提高了GPU占用率并减少了内核启动次数，从而更有效地利用流式多处理器。
• CPU实现得益于缓存感知的数据布局和循环分块，提升了数据局部性并减少了内存带宽压力。
• GPU版本的性能随着粒子数量的增加而表现出良好的可扩展性，证明了在现代GPU架构上的强可扩展性。
• 所提出的优化策略可推广至其他无网格方法，表明其在SPH之外具有广泛适用性。