[论文解读] Fast Multipole Preconditioners for Sparse Matrices Arising from Elliptic Equations

Huda Ibeid, Rio Yokota+2 more|Strathprints: The University of Strathclyde institutional repository (University of Strathclyde)|Aug 15, 2013

Electromagnetic Scattering and Analysis参考文献 51被引用 7

一句话总结

本论文提出将快速多极子方法（FMM）用作有限差分/有限元离散化椭圆PDE所产生的稀疏线性系统的矩阵-free预条件子，结合FMM的分层矩阵压缩与Krylov子空间方法。其收敛速率与代数多重网格法（AMG）相当，且在分布式内存系统上具有更优的可扩展性，尤其在512核以上时表现更优，归因于通信减少和高算术强度。

ABSTRACT

Among optimal hierarchical algorithms for the computational solution of elliptic problems, the Fast Multipole Method (FMM) stands out for its adaptability to emerging architectures, having high arithmetic intensity, tunable accuracy, and relaxable global synchronization requirements. We demonstrate that, beyond its traditional use as a solver in problems for which explicit free-space kernel representations are available, the FMM has applicability as a preconditioner in finite domain elliptic boundary value problems, by equipping it with boundary integral capability for satisfying conditions at finite boundaries and by wrapping it in a Krylov method for extensibility to more general operators. Here, we do not discuss the well developed applications of FMM to implement matrix-vector multiplications within Krylov solvers of boundary element methods. Instead, we propose using FMM for the volume-to-volume contribution of inhomogeneous Poisson-like problems, where the boundary integral is a small part of the overall computation. Our method may be used to precondition sparse matrices arising from finite difference/element discretizations, and can handle a broader range of scientific applications. Compared with multigrid methods, it is capable of comparable algebraic convergence rates down to the truncation error of the discretized PDE, and it offers potentially superior multicore and distributed memory scalability properties on commodity architecture supercomputers. Compared with other methods exploiting the low rank character of off-diagonal blocks of the dense resolvent operator, FMM-preconditioned Krylov iteration may reduce the amount of communication because it is matrix-free and exploits the tree structure of FMM. We describe our tests in reproducible detail with freely available codes and outline directions for further extensibility.

研究动机与目标

• 将快速多极子方法（FMM）从其传统的独立求解器角色扩展，用于作为有限差分/有限元离散化椭圆PDE所产生的稀疏线性系统的预条件子。
• 通过利用FMM低通信、高算术强度的结构，解决现代并行架构上Krylov求解器在椭圆问题求解中的通信与同步瓶颈。
• 证明FMM预条件子可在大规模、分布式内存系统上实现与代数多重网格法（AMG）相当的收敛速率，同时具备更优的可扩展性。
• 通过可复现的开源实现，在2D与3D的Poisson和Stokes问题上验证该方法的有效性。
• 将基于FMM的预条件子定位为下一代百亿亿级求解器的可行、可调参替代方案，尤其适用于AMG因内存或同步限制而性能受限的场景。

提出的方法

• 将FMM与边界积分方法结合，用于在有限域椭圆问题中施加边界条件，从而支持非齐次Poisson型方程的求解。
• 在Krylov子空间迭代（如CG、GMRES）中将FMM作为矩阵-free算子使用，避免显式矩阵组装，降低内存占用。
• 利用FMM的分层树结构高效计算远场相互作用（M2L）与近场（P2P）项，实现低通信、高算术强度的计算。
• 将FMM应用于系统矩阵的体-体贡献部分，将边界积分视为小的修正项，从而聚焦于主要计算部分。
• 采用双树遍历算法，以可调精度实现O(N)复杂度的多极子到局部（M2L）与点对点（P2P）相互作用计算。
• 在预条件迭代框架中结合FMM与Krylov求解器，实现在无需显式存储矩阵的情况下收敛至截断误差水平。

实验结果

研究问题

• RQ1 FMM能否被有效重用于稀疏线性系统（来自标准有限差分/有限元离散化椭圆PDE）的预条件子？
• RQ2 在分布式内存架构上，FMM预条件子与代数多重网格法（AMG）相比，在收敛速率、通信成本和可扩展性方面表现如何？
• RQ3 在3D问题中，FMM预条件子是否仍保持性能优势，其中M2L操作的复杂度远高于2D情况？
• RQ4 FMM预条件子能否显著降低Krylov求解器中的全局同步与通信开销，尤其是在大规模计算中？
• RQ5 在相同矩阵的多次求解场景下，FMM与直接求解器（如MUMPS）在设置开销与求解时间上的性能权衡如何？

主要发现

• FMM预条件子在2D与3D的Poisson和Stokes问题上实现了与代数多重网格法（AMG）相当的收敛速率，收敛行为可匹配至PDE的截断误差水平。
• 在Stampede超级计算机上，FMM预条件子在4096²网格下可强可扩展至1024个核心，而AMG在超过128个核心后并行效率显著下降。
• 在3D问题中，由于M2L操作复杂度增加，FMM每核性能约为2D FMM的十分之一，但在Shaheen II上仍可强可扩展至128个核心。
• 在大规模3D问题中，FMM在超过512个核心时的强可扩展性优于BoomerAMG，表明其在高度并行、内存带宽受限的计算环境中具有潜在优势。
• 稀疏直接求解器MUMPS可扩展性显著较差，且求解时间极长，其设置开销占主导地位，因此在大规模迭代求解中不切实际。
• 由于FMM的矩阵-free特性与基于树的内存布局，FMM预条件子显著降低了通信开销，使其特别适合未来对同步容忍度低的百亿亿级系统。