[论文解读] Parallel Algorithms for Constructing Data Structures for Fast Multipole Methods

Qi Hu, Nail A. Gumerov+1 more|arXiv (Cornell University)|Jan 8, 2013

Electromagnetic Scattering and Analysis参考文献 21被引用 3

一句话总结

本文提出了一种新型并行算法，用于在快速多极方法（FMM）中构建数据结构，实现在CPU、GPU及分布式异构系统上的高效O(N)构建。该方法在GPU上实现了20–100倍的加速，并在多节点环境中展现出强大的可扩展性，显著降低了大规模FMM模拟中动态粒子分布下的数据结构开销。

ABSTRACT

We present efficient algorithms to build data structures and the lists needed for fast multipole methods. The algorithms are capable of being efficiently implemented on both serial, data parallel GPU and on distributed architectures. With these algorithms it is possible to map the FMM efficiently on to the GPU or distributed heterogeneous CPU-GPU systems. Further, in dynamic problems, as the distribution of the particles change, the reduced cost of building the data structures improves performance. Using these algorithms, we demonstrate example high fidelity simulations with large problem sizes by using FMM on both single and multiple heterogeneous computing facilities equipped with multi-core CPU and many-core GPUs.

研究动机与目标

• 降低构建FMM数据结构的计算成本，该成本在粒子分布动态变化的模拟中是一个主要瓶颈。
• 实现在异构CPU-GPU架构和分布式系统上的高效、可扩展的FMM数据结构构建。
• 实现O(N)时间复杂度的数据结构构建，使其相对于整体FMM计算可忽略不计。
• 在分布式FMM实现中平衡多个节点的工作负载，并最小化通信开销。
• 通过优化单节点和多节点异构计算环境下的数据结构构建，支持高保真、大规模模拟。

提出的方法

• 提出一种基于WSPD（良好分离对分解）的并行算法，用于构建基于八叉树的空间数据结构，以管理近场和远场相互作用。
• 提出一种GPU优化的FMM数据结构构建实现，相比纯CPU版本实现了20–100倍的加速。
• 设计了一种分布式算法，通过负载均衡将空间盒子分配给节点，并通过数据管理器实现盒子的导入/导出，以最小化通信开销。
• 采用多对多通信模型，减少多节点系统中的瓶颈，每个节点独立计算自身的通信目标。
• 将盒子类型计算与八叉树及邻接列表构建相结合，以降低整体数据结构构建成本。
• 采用分层多级FMM框架，包含P2M（粒子到多极）、M2M（多极到多极）、M2L（多极到局部）、L2P（局部到粒子）及最终求和步骤，所有步骤均通过并行数据结构构建加速。

实验结果

研究问题

• RQ1 FMM数据结构构建是否能在GPU和分布式CPU-GPU系统上高效并行化，从而将O(N)成本降低到总FMM时间的可忽略部分？
• RQ2 所提出的并行数据结构构建在多GPU和多节点环境下的性能如何扩展，特别是在动态粒子分布下？
• RQ3 通信开销和工作负载不平衡对分布式FMM数据结构构建可扩展性有何影响？
• RQ4 所提出的算法是否能实现强可扩展性，同时保持低通信成本和均衡的CPU-GPU工作负载？
• RQ5 将盒子类型计算与其它数据结构集成对整体性能和可扩展性有何影响？

主要发现

• 所提出的并行算法实现了FMM数据结构构建的O(N)时间复杂度，使其在大规模模拟中具备可扩展性和高效性。
• GPU加速的数据结构构建相比纯CPU实现实现了20–100倍的加速，显著降低了数据结构构建步骤对总FMM时间的贡献。
• 在多个节点上实现了强可扩展性，支持1–32块GPU，当GPU计算成为瓶颈时，1600万和800万规模问题均表现出近乎完美的扩展性能。
• 数据管理器的通信开销极低——占总时间的1–15%，表明在以核函数计算为主导的大规模问题中可忽略不计。
• 该算法在分布式系统中实现了良好的负载均衡，每节点两块GPU时性能最优，得益于CPU和GPU工作负载的平衡。
• 通过多对多通信模型缓解了通信瓶颈，每个节点独立计算自身通信目标，未来通过改进通信模式可进一步减少通信流量。