[论文解读] Deflated Iterative Methods for Linear Equations with Multiple Right-Hand Sides

Ronald B. Morgan, Walter Wilcox|ArXiv.org|May 20, 2004

Matrix Theory and Algorithms参考文献 39被引用 27

一句话总结

本文提出一种基于降维的迭代方法，用于求解大规模非对称线性系统，且具有多个右端项。该方法利用首次使用GMRES-DR求解时获得的特征向量信息，加速后续求解过程。通过将后续系统投影到先前计算得到的近似特征向量子空间上，显著提升了收敛速度，尤其在存在小特征值的问题中效果显著——在量子色动力学（QCD）应用中，相比标准重启GMRES，速度提升了10倍。

ABSTRACT

A new approach is discussed for solving large nonsymmetric systems of linear equations with multiple right-hand sides. The first system is solved with a deflated GMRES method that generates eigenvector information at the same time that the linear equations are solved. Subsequent systems are solved by combining an iterative method with a projection over the previously determined eigenvectors. Restarted GMRES is considered for the iterative method as well as non-restarted methods such as BiCGSTAB. These methods offer an alternative to block methods, and they can also be combined with a block approach. An example is given showing significant improvement for a problem from quantum chromodynamics.

研究动机与目标

• 高效求解大规模非对称线性系统，尤其针对小特征值阻碍收敛的问题。
• 通过利用首个系统求解过程中获得的特征向量信息，克服标准块方法和重启Krylov子空间求解器的局限性，加速后续系统的求解。
• 开发一种实用且非侵入式的方法，无需所有右端项同时可用。
• 在实际问题中验证方法的有效性，特别是在格点量子色动力学（QCD）中，此类系统频繁出现且计算量巨大。

提出的方法

• 使用GMRES-DR（带降维重启的GMRES）求解首个右端项，同时生成小特征值的近似特征向量。
• 通过最小残差（minres）投影方法，将后续右端项投影到已计算的近似特征向量张成的子空间上，以实现对困难特征模式的降维。
• 采用带降维的重启GMRES进行循环求解，其中GMRES-DR产生的谐波Ritz向量用于重启Krylov子空间，从而改善收敛特性。
• 将降维与非重启方法（如BiCGSTAB）结合，通过同时投影到左和右近似特征向量上，加速收敛。
• 在块方法中集成降维技术，分别在特征向量生成阶段和同时求解多个右端项阶段应用降维。
• 使用紧凑的Arnoldi型递推关系（AV_k = V_{k+1}H̄_k）高效存储和更新近似特征向量，实现极低的内存开销。

实验结果

研究问题

• RQ1 在求解首个右端项时生成的特征向量信息，能否有效用于加速后续多个右端项系统的求解？
• RQ2 通过近似特征向量投影实现的降维方法，在收敛速度和计算成本方面，与标准块方法相比表现如何？
• RQ3 降维能否成功与非重启迭代求解器（如BiCGSTAB）结合？此类结合需要满足什么条件？
• RQ4 在实际问题中，如格点量子色动力学中存在小特征值的系统，降维方法能多大程度上提升性能？
• RQ5 降维方法能否扩展至QCD中常见的位移线性系统，从而以接近单个系统的代价求解多个位移系统？

主要发现

• 在格点QCD问题中，所提出的GMRES-Proj方法相比标准重启GMRES，收敛速度提升了10倍。
• 采用降维的块-GMRES-DR(1220,40,20)仅需2400次矩阵-向量乘积即可求解40个右端项，其矩阵-向量乘积次数优于非块变体。
• 采用降维的块-QMR将10个右端项在10⁻⁶精度下的矩阵-向量乘积从1782次减少至1384次（减少22%），在10⁻⁴精度下减少至1076次（减少31%）。
• 使用10个左和右特征向量进行降维，使块-QMR在求解3个右端项时的矩阵-向量乘积从922次减少至538次，降幅达41.7%。
• 该方法可在无需所有右端项同时可用的前提下复用特征向量信息，支持按顺序求解多个系统。
• 与BiCGSTAB结合使用降维需同时使用左和右特征向量，而QCD问题中在计算右特征向量后可轻松获得左特征向量，使该方法在该类应用中具有实际可行性。