[论文解读] Analysis of the Deflated Conjugate Gradient Method Based on Symmetric Multigrid Theory

Karsten Kahl, H. Rittich|arXiv (Cornell University)|Sep 10, 2012

Matrix Theory and Algorithms被引用 5

一句话总结

本文基于对称多重网格理论，提出了对降维共轭梯度法的收敛性分析，建立了基于弱逼近性质和通过强化柯西-施瓦茨不等式衡量的A-不变性的收敛估计。主要贡献在于提出了一种适用于任意降维子空间的一般收敛性框架，表明代数多重网格插值技术可提升降维子空间的构建效果。

ABSTRACT

Deflation techniques for Krylov subspace methods and in particular the conjugate gradient method have seen a lot of attention in recent years. They provide means to improve the convergence speed of the methods in a rather straight forward way by enriching the Krylov subspace with a deflation subspace. The most common approach for the construction of deflation subspaces is to use (approximate) eigenvectors. However, there are many situations where a more general deflation subspace is advisable. We derive an estimate for the speed of convergence of the deflated conjugate gradient method using theory originally developed for algebraic multigrid methods. Our result holds for general deflation subspaces and is based on the weak approximation property---known from multigrid methods---and a measure of the A invariance of the subspace by the strengthened Cauchy-Schwarz inequality. In addition the result suggests that the techniques developed to construct efficient interpolation operators in algebraic multigrid methods can also be applied to improve deflation subspaces.

研究动机与目标

• 开发一种超越标准基于特征向量的降维的通用共轭梯度法收敛性分析框架。
• 识别降维子空间显著加速Krylov子空间方法收敛的条件。
• 将降维子空间设计与代数多重网格技术（特别是插值算子构造）相联系。
• 形式化弱逼近性质与A-不变性在收敛行为中的作用。

提出的方法

• 分析基于对称多重网格理论，特别是多重网格收敛性中的弱逼近性质。
• 利用强化柯西-施瓦茨不等式推导收敛估计，以量化降维子空间的A-不变性。
• 该方法适用于一般降维子空间，不限于近似特征向量。
• 收敛界取决于子空间逼近解空间的能力及其在系统矩阵A下的不变性。
• 理论结果的推导未假设降维子空间的特定结构，从而具备广泛适用性。
• 该框架表明，代数多重网格中的插值算子可被重新利用以构建更高效的降维子空间。

实验结果

研究问题

• RQ1 如何在超越基于特征向量的降维之外的一般设定下分析降维共轭梯度法的收敛性？
• RQ2 弱逼近性质在降维Krylov方法收敛性中起什么作用？
• RQ3 通过强化柯西-施瓦茨不等式衡量的降维子空间A-不变性如何影响收敛速度？
• RQ4 代数多重网格中的技术（如插值算子设计）能否被改编以提升降维子空间质量？
• RQ5 何种理论条件可确保一般降维子空间在共轭梯度法中实现鲁棒收敛？

主要发现

• 降维共轭梯度法的收敛性受一个涉及降维子空间弱逼近性质的项所限制。
• 收敛速度进一步由子空间的A-不变性控制，该性质通过强化柯西-施瓦茨不等式量化。
• 该理论框架适用于任何降维子空间，不仅限于基于特征向量的子空间。
• 分析表明，代数多重网格中的子空间构造方法——特别是插值算子——可被直接用于构建更高效的降维子空间。
• 收敛估计为评估和比较不同降维子空间设计提供了理论依据。