[论文解读] A low memory, highly concurrent multigrid algorithm

Mark F. Adams|arXiv (Cornell University)|Jul 28, 2012

Parallel Computing and Optimization Techniques参考文献 12被引用 5

一句话总结

本文提出一种低内存、高度并发的多重网格算法，基于分段局部加密（SR）与τ校正，通过在不存储完整细网格的情况下遍历细网格，实现以最小存储空间高效求解偏微分方程（PDE）。该方法仅通过一次FMG循环即可达到二阶精度，并展现出高度的并发性与数据重用性，非常适合面向内存的未来计算架构。

ABSTRACT

We examine what is an efficient and scalable nonlinear solver, with low work and memory complexity, for many classes of discretized partial differential equations (PDEs) - matrix-free Full multigrid (FMG) with a Full Approximation Storage (FAS) - in the context of current trends in computer architectures. Brandt proposed an extremely low memory FMG-FAS algorithm over 25 years ago that has several attractive properties for reducing costs on modern - memory centric -- machines and has not been developed to our knowledge. This method, segmental refinement (SR), has very low memory requirements because the finest grids need not be held in memory at any one time but can be "swept" through, computing coarse grid correction and any quantities of interest, allowing for orders of magnitude reduction in memory usage. This algorithm has two useful ideas for effectively exploiting future architectures: improved data locality and reuse via "vertical" processing of the multigrid algorithms and the method of $τ$-corrections, which allows for not storing the entire fine grids at any one time. This report develops this algorithm for a model problem and a parallel generalization of the original sweeping technique. We show that FMG-FAS-SR can work as originally predicted, solving systems accurately enough to maintain the convergence rate of the discretization with one FMG iteration, and that the parallel algorithm provides a natural approach to fully exploiting the available parallelism of FMG.

研究动机与目标

• 开发一种适用于未来面向内存的高性能计算架构的低内存、可扩展多重网格求解器。
• 通过减少内存使用和提升数据局部性，应对极端规模计算中内存移动成本与能耗上升的问题。
• 将Brandt在1970年代提出的分段局部加密（SR）算法推广为并行、异步且数据驱动的多重网格方法。
• 在最小化存储与内存移动的同时保持离散化精度（二阶），通过垂直处理与τ校正实现。
• 探索该算法在1D模型问题上不同求解器配置下的可行性与性能表现。

提出的方法

• 该算法利用分段局部加密（SR）避免一次性存储整个细网格，而是将网格划分为若干块，按顺序逐块处理。
• 通过τ校正隐式表示粗网格上的细网格校正，从而无需显式存储细网格数据。
• 该方法支持多重网格循环的垂直处理，即每一块内平滑、限制与插值操作被融合处理，以最大化数据重用与局部性。
• 采用具有重叠子域与边界层（halo cells）的块雅可比平滑器，实现无需全局通信的精确局部求解。
• 该算法天然适用于异步、基于任务的编程模型，支持高并发性，并对负载不均衡具有鲁棒性。
• 以1D拉普拉斯算子的二阶有限体积离散化作为测试问题，采用FMG循环与多种平滑器配置。

实验结果

研究问题

• RQ1 尽管未存储细网格，分段局部加密（SR）算法在仅使用一次FMG循环时是否仍能保持解的二阶精度？
• RQ2 当使用具有两个或四个边界层的重叠子域平滑器时，基于SR的多重网格方法与标准多重网格方法相比性能如何？
• RQ3 在子域求解中使用具有重叠子域的雅可比平滑器，与标准高斯-赛德尔平滑器相比，对收敛性的影响有多大？
• RQ4 该算法是否可通过垂直处理实现高并发性与数据重用，同时最小化内存移动？
• RQ5 该算法是否天然适用于极端规模计算环境中的异步、数据驱动编程模型？

主要发现

• 当子域求解器中使用四个边界层时，FMG-FAS-SR算法在仅使用一次FMG循环的情况下仍能保持解的二阶精度，证实了其理论潜力。
• 当仅使用两个边界层且采用V(1,1)循环时，算法的截断误差精度出现下降，表明充足的边界层数据对维持收敛阶次至关重要。
• 在子域求解器中使用四个边界层可使所有测试配置下均表现出优异的收敛行为，展现出良好的鲁棒性与精度。
• 使用雅可比平滑器的收敛结果虽略逊于标准高斯-赛德尔平滑器，但仍表现出可接受的性能与稳定性。
• 该算法通过基于块的垂直处理设计，实现了高并发性与数据重用，减少了内存移动，适用于面向内存的计算架构。
• 该方法天然支持异步执行与基于任务的模型，契合现代极端规模系统编程的发展趋势。