[论文解读] Polynomial Preconditioned Arnoldi

Mark Embree, Jennifer Loe+1 more|arXiv (Cornell University)|Jun 21, 2018

Matrix Theory and Algorithms参考文献 25被引用 3

一句话总结

本文提出多项式预条件的阿诺德迭代方法，通过应用GMRES生成的多项式对谱进行平移，从而加速大规模困难矩阵的特征值计算。该方法可在不增加Krylov子空间维数的前提下，高效使用高阶多项式逼近，显著减少通信密集型的点积运算——尤其适用于并行计算——同时通过双多项式预条件和根重复等稳定性增强技术保持收敛性。

ABSTRACT

Polynomial preconditioning can improve the convergence of the Arnoldi method for computing eigenvalues. Such preconditioning significantly reduces the cost of orthogonalization; for difficult problems, it can also reduce the number of matrix-vector products. Parallel computations can particularly benefit from the reduction of communication-intensive operations. The GMRES algorithm provides a simple and effective way of generating the preconditioning polynomial. For some problems high degree polynomials are especially effective, but they can lead to stability problems that must be mitigated. A two-level "double polynomial preconditioning" strategy provides an effective way to generate high-degree preconditioners.

研究动机与目标

• 解决标准阿诺德方法在大规模困难特征值问题中收敛缓慢的问题。
• 开发一种实用且低成本的替代方法，避免使用移位-逆谱变换中的矩阵求逆。
• 通过利用矩阵-向量乘积替代内积，降低并行计算中的通信与正交化开销。
• 在使用高阶多项式进行预条件时确保数值稳定性。
• 通过先进的预条件策略，实现对内部特征值的高效计算。

提出的方法

• 对 $\pi(A)$ 应用阿诺德方法，其中 $\pi$ 是由GMRES最小残差多项式导出的多项式预条件器。
• 使用GMRES算法生成多项式 $\pi$，将 $A$ 的期望特征值映射为 $\pi(A)$ 的大模特征值，从而改善收敛性。
• 构建形如 $\mathcal{K}_m(\pi(A), v)$ 的Krylov子空间，其为高阶Krylov空间 $\mathcal{K}_{d(m-1)+1}(A,v)$ 的子空间，从而在低维下实现高精度逼近。
• 通过在 $\tau(A) = 1 - \pi_1(A)$ 上应用第二个GMRES多项式 $\pi_2$，实现双多项式预条件，形成复合多项式，其次数为 $d_1 d_2$，从而在不增加子空间维数的前提下实现高阶逼近。
• 通过在预条件多项式中添加重复根来稳定方法，尤其在特征值分离性差时效果显著。
• 使用MaxPof测试检测不稳定性，并指导根重复以提升收敛性。

实验结果

研究问题

• RQ1 通过GMRES生成的多项式进行多项式预条件，是否能显著减少基于阿诺德方法的特征值计算中的矩阵-向量乘积与点积次数？
• RQ2 如何在不增加Krylov子空间维数或正交化开销的前提下，有效使用高阶多项式逼近于特征值问题？
• RQ3 当特征值分离性差或高阶多项式导致数值不稳定性时，应采取何种策略以稳定多项式预条件？
• RQ4 双多项式预条件是否能高效使用极高阶多项式？其在计算成本与收敛性方面与单重预条件相比如何？
• RQ5 GMRES初始向量的选择及其阻尼参数如何影响多项式预条件在捕捉目标特征值方面的有效性？

主要发现

• 对于对流-扩散问题，使用 $25 \times 40 = 1000$ 阶的双多项式预条件，将点积次数从 52,312 降低至 321.0，较单重预条件降低了一个数量级。
• 当 $d_1 = 15$，$d_2 = 20$ 时，双预条件在两个阿诺德循环内完成收敛，每循环仅需 2.1 次点积，而单重预条件需 9.9 次。
• 对于一个在约 20,000 附近存在病态特征值的矩阵，使用 $d_1 = 5$ 的单重多项式预条件器因 $\pi_2(\tau(A))$ 中存在未收敛特征值而失败；但通过添加双重根后，成功在两个循环内实现收敛。
• 双多项式预条件使 Arnoldi(50,20) 在一个循环内收敛，复合次数达 1000，展示了对高阶逼近的可扩展性。
• MaxPof测试成功识别出预条件器的不稳定性，并有效指导根重复，从而恢复收敛性。
• 该方法通过将昂贵的点积替换为更廉价的矩阵-向量乘积，显著降低了通信开销——这对高性能计算至关重要。