[论文解读] Robust and effective eSIF preconditioning for general SPD matrices

Jianlin Xia|arXiv (Cornell University)|Jul 7, 2020

Electromagnetic Scattering and Analysis参考文献 20被引用 4

一句话总结

本文提出了一种用于通用对称正定（SPD）矩阵的增强型SIF（eSIF）预条件器，通过采用双边块三角预处理及改进的缩放与压缩策略，显著提升了近似精度，改善了条件数的降低效果，并实现了特征值更紧密地聚集在1附近。eSIF方法具有无条件鲁棒性，无需稳定化即可保证正定性，且在各类测试矩阵上均表现出比原始SIF更快的收敛速度和更高的有效性。

ABSTRACT

We propose an unconditionally robust and highly effective preconditioner for general symmetric positive definite (SPD) matrices based on structured incomplete factorization (SIF), called enhanced SIF (eSIF) preconditioner. The original SIF strategy proposed recently derives a structured preconditioner by applying block diagonal preprocessing to the matrix and then compressing appropriate scaled off-diagonal blocks. Here, we use an enhanced scaling-and-compression strategy to design the new eSIF preconditioner. Some subtle modifications are made, such as the use of two-sided block triangular preprocessing. A practical multilevel eSIF scheme is then designed. We give rigorous analysis for both the enhanced scaling-and-compression strategy and the multilevel eSIF preconditioner. The new eSIF framework has some significant advantages and overcomes some major limitations of the SIF strategy. (i) With the same tolerance for compressing the off-diagonal blocks, the eSIF preconditioner can approximate the original matrix to a much higher accuracy. (ii) The new preconditioner leads to much more significant reductions of condition numbers due to an accelerated magnification effect for the decay in the singular values of the scaled off-diagonal blocks. (iii) With the new preconditioner, the eigenvalues of the preconditioned matrix are much better clustered around $1$. (iv) The multilevel eSIF preconditioner is further unconditionally robust or is guaranteed to be positive definite without the need of extra stabilization, while the multilevel SIF preconditioner has a strict requirement in order to preserve positive definiteness. Comprehensive numerical tests are used to show the advantages of the eSIF preconditioner in accelerating the convergence of iterative solutions.

研究动机与目标

• 解决原始SIF预条件器在通用SPD矩阵上存在的鲁棒性与精度局限性。
• 克服多层SIF方案中对严格正定性的要求，该要求可能导致计算崩溃。
• 增强非对角块奇异值的衰减放大效应，以加速条件数的降低。
• 设计一种实用的多层eSIF方案，保持高效率与稳定性。
• 对改进的缩放与压缩策略进行严格分析，评估其对预条件器质量的影响。

提出的方法

• 在压缩前对SPD矩阵应用双边块三角预处理，改善非对角块的条件性。
• 实施一种改进的缩放与压缩策略，利用缩放后的非对角块 $ C = L_1^{-1} A_{12} L_2^{-T} $ 进行低秩逼近。
• 仅保留 $ C $ 的最大 $ r $ 个奇异值，截断秩 $ r $ 控制近似精度。
• 基于压缩后的块构建结构化的不完全分解，确保预条件器保持SPD性质。
• 通过递归地将相同策略应用于对角块，将单层eSIF扩展为多层方案。
• 通过严格分析证明，eSIF预条件器实现了相对误差界 $ ilde{ ho} $，其条件数为 $ rac{1+ ilde{ ho}}{1- ilde{ ho}} $，其中 $ ilde{ ho} $ 的收敛速度优于SIF。

实验结果

研究问题

• RQ1 eSIF预条件器在相同压缩容差下是否能实现比原始SIF更高的近似精度？
• RQ2 改进的缩放与压缩策略是否能导致非对角块奇异值的衰减放大效应更快？
• RQ3 多层eSIF预条件器是否能实现无条件鲁棒性，即无需稳定化即可保证正定性？
• RQ4 eSIF预条件化矩阵的特征值分布与SIF相比如何，特别是在1附近的聚集性如何？
• RQ5 eSIF在各类SPD矩阵上对PCG方法的收敛速度提升程度如何？

主要发现

• 当 $ r=8 $ 时，eSIF的相对误差界为 $ 1.23 imes 10^{-14} $，而SIF为 $ 9.09 imes 10^{-13} $，表明eSIF具有显著更高的近似精度。
• eSIF的预条件化矩阵条件数降低至1.00（$ r=8 $），而SIF最高达到 $ 6.21 imes 10^1 $，显示出更优的条件性。
• PCG收敛方面，eSIF在 $ r=8 $ 时仅需2–3次迭代，而SIF需10–75次迭代，收敛速度提升达10–75倍。
• 对于MHD3200B矩阵，eSIF将PCG迭代次数减少至SIF的1/11；对于LinProg，减少至1/7，证实了在各类测试用例中的一致加速效果。
• eSIF预条件化矩阵的特征值紧密聚集在1附近，分布范围极小，而SIF则表现出更宽的离散分布。
• 多层eSIF预条件器具有无条件鲁棒性，无需额外稳定化即可保持正定性，而多层SIF则需依赖稳定化手段。