[论文解读] Accelerating Polynomial Homotopy Continuation on a Graphics Processing Unit with Double Double and Quad Double Arithmetic

Jan Verschelde, Xiangcheng Yu|arXiv (Cornell University)|Jan 26, 2015

Polynomial and algebraic computation参考文献 4被引用 4

一句话总结

本文提出了一种基于GPU加速的多项式同伦连续路径追踪器，采用双精度双倍（double double）和四倍精度（quad double）算术，以处理标准双精度无法解决的病态系统。通过利用GPU上的细粒度并行性，并优化求值、求导和线性求解器，该方法在某些情况下实现了超过30倍的加速，使得更高精度的解算速度超过仅使用低精度CPU的方法。

ABSTRACT

Numerical continuation methods track a solution path defined by a homotopy. The systems we consider are defined by polynomials in several variables with complex coefficients. For larger dimensions and degrees, the numerical conditioning worsens and hardware double precision becomes often insufficient to reach the end of the solution path. With double double and quad double arithmetic, we can solve larger problems that we could not solve with hardware double arithmetic, but at a higher computational cost. This cost overhead can be compensated by acceleration on a Graphics Processing Unit (GPU). We describe our implementation and report on computational results on benchmark polynomial systems.

研究动机与目标

• 解决在路径追踪中由大规模病态多项式系统引起的硬件双精度数值不稳定性问题。
• 通过GPU加速克服双精度双倍和四倍精度算术的计算成本。
• 开发一种可扩展的、大规模并行的路径追踪器，专为具有复系数的高维多项式系统设计。
• 证明GPU加速可以抵消更高精度算术的开销，使求解更大规模问题成为可能。
• 将优化的GPU内核（用于多项式求值、导数计算和线性系统求解）集成到可投入生产的路径追踪器中。

提出的方法

• 在GPU上使用反向模式自动微分，高效计算多项式及其雅可比矩阵。
• 实现分块的、混合左向与右向的改进Gram-Schmidt算法，以减少内存访问并提升线程级并行性。
• 使用QD库及其GPU移植版本，实现任意精度的复数算术（双精度双倍和四倍精度）。
• 采用预测-校正连续法，结合牛顿步长，每一步均在GPU上并行计算。
• 通过利用完全展开系统中多项式求值与求导的数据并行性，优化线程块占用率。
• 将所有组件集成到统一的GPU加速路径追踪器中，并在真实世界基准系统（如循环n次根和Pieri同伦）上进行测试。

实验结果

研究问题

• RQ1 GPU加速是否足以抵消在多项式同伦连续中使用双精度双倍和四倍精度算术的计算成本？
• RQ2 在何种系统维度和多项式次数下，使用更高精度算术成为必要？GPU加速在何时使其变得实际可行？
• RQ3 当需要更高精度时，GPU加速路径追踪器的性能与单核CPU双精度性能相比如何？
• RQ4 问题的稀疏性对GPU加速在路径追踪中有效性的影响如何？
• RQ5 随着系统维度的增加，加速比如何变化？是否足以补偿更高精度算术的成本？

主要发现

• 对于循环160次根问题，GPU上的双精度双倍精度相比单核CPU双精度实现了29.31倍的加速，尽管精度更高。
• 在双精度双倍精度下，当系统维度n ≥ 128时，加速比超过30倍，并随维度增加而持续上升。
• 对于循环256次根问题，由于极端病态性，双精度双倍精度方法失败，凸显了当前方法的局限性。
• GPU加速的双精度双倍精度路径追踪器完成一条路径耗时28.75秒，而单核CPU双精度耗时93.89秒，实现了3.3倍的加速，同时精度翻倍。
• 双精度双倍精度下的加速比随维度增加的速度快于双精度，表明在大规模问题中，加速使更高精度变得实用。
• 对于维度n ≥ 100的系统，使用双精度双倍算术的GPU加速已足以补偿精度成本，使此前难以求解的问题得以可靠求解。