[论文解读] Speeding up a few orders of magnitude the Jacobi method: high order Chebyshev-Jacobi over GPUs

José E. Adsuara, Aloy, M. A.+2 more|arXiv (Cornell University)|Apr 29, 2017

Model Reduction and Neural Networks参考文献 4被引用 3

一句话总结

本文提出了一种基于GPU加速的高阶切比雪夫-雅可比（CJM）方法，用于通过有限差分法求解椭圆型偏微分方程，相较于经典雅可比法实现了数个数量级的速度提升。通过结合高阶有限差分 stencils（9点和17点）与优化的切比雪夫加速及GPU并行化，该方法在保持高精度的同时显著减少了迭代次数和计算时间。

ABSTRACT

In this technical note we show how to reach a remarkable speed up when solving elliptic partial differential equations with finite differences thanks to the joint use of the Chebyshev-Jacobi method with high order discretizations and its parallel implementation over GPUs.

研究动机与目标

• 显著加速由有限差分离散化产生的椭圆型PDE的迭代求解过程。
• 利用GPU的固有并行性，提升经典雅可比法的性能。
• 证明高阶离散化（9点和17点stencil）在减少迭代次数和计算时间方面的优越性。
• 在不同GPU架构（计算能力3.5和5.2）上实现并基准测试GPU优化的切比雪夫-雅可比方法。

提出的方法

• 使用高阶有限差分stencil（9点和17点）对拉普拉斯算子进行离散化，提高精度并减少迭代次数。
• 应用切比雪夫-雅可比方法（CJM），该方法基于切比雪夫多项式零点的解析推导，采用与迭代次数相关的权重以加速收敛。
• 通过切比雪夫根的变换计算最优松弛权重，该权重依赖于网格尺寸、边界条件以及特征值边界（κ_min 和 κ_max）。
• 使用CUDA在GPU上实现CJM，利用数据并行性高效更新网格点上的stencil。
• 采用数值解与解析解之间差值的无穷范数作为收敛准则，以确保误差水平的一致性。
• 通过相同的测试问题和误差目标，对比经典雅可比法、CPU上的CJM以及GPU上的CJM的性能。

实验结果

研究问题

• RQ1 当将切比雪夫-雅可比方法移植到GPU架构时，是否能实现数量级的速度提升？
• RQ2 与经典的5点stencil相比，高阶有限差分离散化（9点vs.17点）如何影响收敛速度和计算成本？
• RQ3 GPU加速的CJM相较于基于CPU的雅可比法和CJM，在不同GPU计算能力下能带来多大的性能增益？
• RQ4 使用更高阶stencil是否能在保持相同解精度的前提下减少迭代次数和总计算时间？
• RQ5 不同stencil对应的特征值边界（κ_min 和 κ_max）如何影响CJM中的最优加权策略？

主要发现

• 对于1024×1024网格上使用9点stencil的GPU优化切比雪夫-雅可比方法，在计算能力5.2的GPU上，相较于经典雅可比法，最高实现了25,235倍的速度提升。
• 对于17点stencil，GPU上的CJM在相同网格和GPU架构下，相较于经典雅可比法实现了12,420倍的速度提升。
• 使用17点stencil且每维N=128时，迭代次数和计算时间相比使用5点stencil且每维N=2048时减少了整整一个数量级，同时达到相同的误差目标（10⁻⁸）。
• 17点stencil仅需34次迭代和352次GPU内核调用即可达到目标误差，而9点stencil在相同网格上则需481次迭代和3,570次调用。
• 随着网格尺寸和stencil复杂度的增加，开普勒（CC 3.5）与麦克斯韦（CC 5.2）GPU之间的性能差距缩小，表明在现代架构上具有良好的可扩展性。
• 高阶离散化始终具有优势：尽管stencil更大，但由于收敛速度更快，仍能显著减少迭代次数和总计算时间，同时保持相同的解精度。