[论文解读] Two-Level Nyström-Schur Preconditioner for Sparse Symmetric Positive Definite Matrices

Hussam Al Daas, Tyrone Rees+1 more|arXiv (Cornell University)|Jan 1, 2021

Matrix Theory and Algorithms参考文献 38被引用 7

一句话总结

本论文提出了一种新颖的两级Nystr"om-Schur预条件子，用于大规模稀疏对称正定（SPD）线性系统，利用随机化Nystr"om方法计算低秩近似，实现稳健的代数预条件子。通过重新表述特征值问题，确保特征值远离零点，使随机化算法能高效应用，数值实验表明，通过块共轭梯度法以宽松的收敛容差求解内部Schur补系统，可实现计算成本极低的高质量预条件子。

ABSTRACT

Randomized methods are becoming increasingly popular in numerical linear algebra. However, few attempts have been made to use them in developing preconditioners. Our interest lies in solving large-scale sparse symmetric positive definite linear systems of equations where the system matrix is preordered to doubly bordered block diagonal form (for example, using a nested dissection ordering). We investigate the use of randomized methods to construct high quality preconditioners. In particular, we propose a new and efficient approach that employs Nystr\"om's method for computing low rank approximations to develop robust algebraic two-level preconditioners. Construction of the new preconditioners involves iteratively solving a smaller but denser symmetric positive definite Schur complement system with multiple right-hand sides. Numerical experiments on problems coming from a range of application areas demonstrate that this inner system can be solved cheaply using block conjugate gradients and that using a large convergence tolerance to limit the cost does not adversely affect the quality of the resulting Nystr\"om--Schur two-level preconditioner.

研究动机与目标

• 为大规模稀疏对称正定（SPD）线性系统开发一种稳健的代数两级预条件子。
• 克服传统一级预条件子在控制阻碍CG方法收敛的小特征值方面的局限性。
• 使随机化方法（特别是Nystr"om方法）能够有效应用于构造有效的降维子空间，这些子空间通常与最小特征值相关。
• 重新表述低秩近似相关的特征值问题，确保特征值远离零点，从而有效应用随机化求解器。
• 为预条件系统的期望谱条件数提供理论界，保证收敛的鲁棒性。

提出的方法

• 使用嵌套分离法将系统矩阵A重排为双重边界块对角形式，分离出大小为nΓ的Schur补AΓ。
• 通过将基础预条件子（如不完全Cholesky）与来自Schur补的随机化Nystr"om近似的低秩校正相结合，构建两级预条件子。
• 通过将Nystr"om方法应用于Schur补AΓ来计算低秩近似，该方法被重新表述以确保特征值远离零点，从而实现有效的随机采样。
• 使用具有宽松收敛容差的块共轭梯度法求解涉及AΓ的内部系统，显著降低了预条件子构建的计算成本。
• 将所得预条件子应用于共轭梯度法，并为预条件系统的期望谱条件数提供了理论界。
• 该方法在来自不同应用领域的广泛SPD矩阵上实现并测试，包括结构力学和有限元问题。

实验结果

研究问题

• RQ1 尽管通常关注主导特征值而非最小特征值，随机化Nystr"om方法是否能有效应用于构建SPD系统的高质量降维子空间？
• RQ2 如何重新表述与低秩近似相关的特征值问题，以确保特征值远离零点，从而有效应用随机化求解器？
• RQ3 在求解内部Schur补系统时使用宽松收敛容差，对所得两级预条件子的质量和鲁棒性有何影响？
• RQ4 所提出的两级Nystr"om–Schur预条件子是否能在病态问题中实现优于标准一级预条件子（如IC或HSL_MI28）的收敛行为？
• RQ5 使用该方法时，能否为预条件系统的期望谱条件数提供理论保证？

主要发现

• 所提出的两级Nystr"om–Schur预条件子显著改善了大规模病态SPD系统中CG方法的收敛性，尤其在谱条件数较高时效果明显。
• 使用块共轭梯度法以宽松容差（如10^-2）求解内部Schur补系统，计算成本极低，同时保持了高质量的预条件子，表现为PCG迭代次数少。
• 在71个SPD矩阵（n介于5K至100K之间）的测试集中，Nystr"om–Schur预条件子的M2变体在困难问题上的迭代次数与HSL_MI28相当，优于eS1，性能分析表明其具有强鲁棒性。
• 该方法实现了预条件系统期望谱条件数的用户自定义上界，为收敛行为提供了理论上的信心。
• 在数值实验中，预条件子构建成本很低——例如，bcsstk38仅需46次PCG迭代，ela2d仅需72次，证明了其在实际应用中的高效性。
• 性能分析表明，Nystr"om–Schur预条件子在广泛问题上优于或至少匹配HSL_MI28的表现，尤其在一级方法失效的情况下表现更优。