[论文解读] The field of values bound on ideal GMRES

Jörg Liesen, Petr Tichý|arXiv (Cornell University)|Nov 26, 2012

Matrix Theory and Algorithms参考文献 23被引用 10

一句话总结

本文证明了星克与艾勒曼基于数值域的界——此前仅适用于最坏情况下的GMRES——同样适用于理想GMRES，为Krylov子空间方法提供了更紧致的收敛估计。关键贡献在于证明了界 $ (1 - \nu(A)\nu(A^{-1}))^{k/2} $ 在理想GMRES中普遍成立，优于早期的界，并为非厄米特线性系统提供了实用的收敛性分析工具。

ABSTRACT

A widely known result of Elman, and its improvements due to Starke, Eiermann and Ernst, gives a bound on the worst-case GMRES residual norm using quantities related to the field of values of the given matrix and its inverse. We prove that these bounds also hold for the ideal GMRES approximation, and we derive and discuss some improvements of the bounds.

研究动机与目标

• 将星克与艾勒曼基于数值域的收敛界从最坏情况下的GMRES推广至理想GMRES。
• 为适用于一般非奇异矩阵的Krylov子空间方法提供统一的收敛性分析框架。
• 通过利用凸包含区域与法伯多项式技术，改进现有界。
• 证明界 $ (1 - \nu(A)\nu(A^{-1}))^{k/2} $ 在理想GMRES中成立，且无需要求 $ A $ 的对称部分正定。
• 提供比经典界（如埃勒曼的界）更紧致、更实用的收敛估计，尤其适用于非正规矩阵。

提出的方法

• 利用多项式逼近理论，证明此前仅适用于最坏情况GMRES的界 $ (1 - \nu(A)\nu(A^{-1}))^{k/2} $ 同样适用于理想GMRES。
• 利用包含关系 $ \fancyscript{F}(A) \ni \text{Re}(z) \to r(A)\text{Re}(z) \geq r(A)\cos\beta $，其中 $ \cos\beta = \nu(A)/r(A) $，定义一个包围数值域的圆弧形区域。
• 应用法伯多项式技术和共形映射，推导出界 $ \min_{p\in\pi_k}\|p(A)\| \leq (2 + \rho_\beta)\rho_\beta^k $，其中 $ \rho_\beta = 2\sin(\beta/(4 - 2\beta/\pi)) $。
• 通过圆盘包含关系推导另一界：若 $ \fancyscript{F}(A) \subseteq D $，则 $ \min_{p\in\pi_k}\|p(A)\| \leq 2|\delta/c|^k $，其中 $ c = (\nu(A) + r(A))/2 $，$ \delta = (r(A) - \nu(A))/2 $。
• 在 $ 100 \times 100 $ 若尔当块（特征值为3）上对界进行数值比较，结果表明基于圆盘的界最紧，因其精确反映了数值域的几何形状。
• 利用不等式 $ \|p(A)\| \leq 2\max_{z\in D}|p(z)| $，将矩阵上的多项式范数与包含区域上的范数关联起来。

实验结果

研究问题

• RQ1 能否将此前仅适用于最坏情况GMRES的数值域界 $ (1 - \nu(A)\nu(A^{-1}))^{k/2} $ 推广至理想GMRES？
• RQ2 不同的凸包含区域（如圆盘、圆弧形）如何影响理想GMRES界的有效性？
• RQ3 收敛因子 $ \nu(A)\nu(A^{-1}) $ 与矩阵 $ A $ 的谱性质之间存在何种关系，特别是对非正规矩阵而言？
• RQ4 能否通过基于圆盘的包含关系与法伯多项式技术，推导出优于贝克尔曼-戈雷宁夫-蒂尔蒂什尼克结果的更紧致界？
• RQ5 在实际中，理论界与数值结果的对比如何，特别是在数值域几何形状简单的矩阵（如若尔当块）上？

主要发现

• 界 $ (1 - \nu(A)\nu(A^{-1}))^{k/2} $ 不仅适用于最坏情况GMRES，也适用于理想GMRES，从而将其适用范围扩展至最优Krylov逼近。
• 对于特征值为 $ \lambda = 3 $ 的 $ 100 \times 100 $ 若尔当块，理想GMRES的残差范数恰好为 $ \lambda^{-k} = 3^{-k} $，可作为基准参考。
• 基于圆盘的界 $ 2|\delta/c|^k $，其中 $ c = (\nu(A) + r(A))/2 $，$ \delta = (r(A) - \nu(A))/2 $，其值为 $ |\delta/c| = (1 - \cos\beta)/(1 + \cos\beta) $，小于 $ \rho_\beta $，因此比一般法伯多项式界更紧致。
• 收敛因子 $ (1 - \nu(A)\nu(A^{-1})) $ 严格小于 $ 1 - \nu(A)^2/\|A\|^2 $，证实星克的界优于埃勒曼的经典结果。
• 数值结果表明，基于圆盘的界显著优于一般法伯多项式界 $ (2 + \rho_\beta)\rho_\beta^k $，尤其在数值域接近圆形的矩阵上表现更优。
• 界 $ \min_{p\in\pi_k}\|p(A)\| \leq 2|\delta/c|^k $ 通过一种新证明方法导出，该方法利用 $ \|p(A)\| \leq 2\max_{z\in D}|p(z)| $ 及在圆盘 $ D $ 上 $ (1 - z/c)^k $ 的极小化最大性质。