[论文解读] A bivariate extension of the Crouzeix-Palencia result with an application to Fréchet derivatives of matrix functions

Michel Crouzeix, Daniel Kreßner|arXiv (Cornell University)|Jul 19, 2020

Matrix Theory and Algorithms参考文献 11被引用 4

一句话总结

该论文将Crouzeix-Palencia不等式推广至双变量矩阵函数，证明了$ f\{A,B\} $的谱范数被$ (1+\sqrt{2})^2 $倍的$ |f| $在$ W(A) \times W(B) $上的上确界所有界，其中$ W(\cdot) $表示数值范围。该结果被用于界定矩阵函数的Fréchet导数，并分析Krylov子空间方法在矩阵函数逼近中的收敛性。

ABSTRACT

A result by Crouzeix and Palencia states that the spectral norm of a matrix function $f(A)$ is bounded by $K = 1+\sqrt{2}$ times the maximum of $f$ on $W(A)$, the numerical range of $A$. The purpose of this work is to point out that this result extends to a certain notion of bivariate matrix functions; the spectral norm of $f\{A,B\}$ is bounded by $K^2$ times the maximum of $f$ on $W(A) imes W(B)$. As a special case, it follows that the spectral norm of the Fréchet derivative of $f(A)$ is bounded by $K^2$ times the maximum of $f^\prime$ on $W(A)$. An application to the convergence analysis of certain Krylov subspace methods and the extension to functions in more than two variables are discussed.

研究动机与目标

• 将Crouzeix-Palencia结果从单变量推广至双变量矩阵函数。
• 在数值范围$ W(A) \times W(B) $的框架下，建立双变量矩阵函数$ f\{A,B\} $的谱范数的紧致界。
• 利用该界推导矩阵函数Fréchet导数的估计。
• 支持Krylov子空间方法在逼近$ f\{A,B\}c $时的收敛性分析。
• 将结果推广至具有变量数量指数依赖关系的多变量函数。

提出的方法

• 通过涉及预解式的双重围线积分定义双变量矩阵函数$ f\{A,B\} $：$ f\{A,B\} = -\frac{1}{4\pi^2} \oint_{\Gamma_A} \oint_{\Gamma_B} f(x,y) (yI - B)^{-1} \otimes (xI - A)^{-1} dy dx $。
• 利用矩阵值版本的Crouzeix-Palencia不等式，证明$ \|f\{A,B\}\|_2 \leq (1+\sqrt{2})^2 \|f\|_{W(A)\times W(B)} $。
• 利用$ f^{[1]}\{A,A^T\} $表示Fréchet导数$ Df\{A\} $的事实，通过双变量结果实现范数界估计。
• 通过将$ f\{A,B\}c $的误差与$ W(A) \times W(B) $上的多项式逼近关联，将该界应用于Krylov子空间方法。
• 将结果推广至$ d $-变量函数，表明常数随$ (1+\sqrt{2})^d $增长，当部分矩阵为正规矩阵时可进一步改进。
• 利用包含关系$ W(U_k^*AU_k) \subset W(A) $和$ W(V_\ell^*BV_\ell) \subset W(B) $，将简化矩阵上的界转移至原矩阵。

实验结果

研究问题

• RQ1 Crouzeix-Palencia不等式能否推广至双变量矩阵函数？
• RQ2 在$ f $于$ W(A) \times W(B) $上的范数下，$ f\{A,B\} $的谱范数界中，最优常数是多少？
• RQ3 如何利用该双变量界估计矩阵函数的Fréchet导数？
• RQ4 该界能否用于分析双变量矩阵函数的Krylov子空间方法的收敛性？
• RQ5 在多变量推广中，该界对变量数量的依赖关系如何？

主要发现

• 双变量矩阵函数$ f\{A,B\} $的谱范数满足$ \|f\{A,B\}\|_2 \leq (1+\sqrt{2})^2 \|f\|_{W(A)\times W(B)} $，其中常数$ (1+\sqrt{2})^2 \approx 5.828 $。
• 常数$ (1+\sqrt{2})^2 $是紧致的，无法简化为$ 1+\sqrt{2} $，反例为$ A=B=\begin{bmatrix}0&1\\0&0\end{bmatrix} $，$ f(x,y)=xy $，此时$ \|f\{A,B\}\|_2 = 1 $，而$ \|f\|_{W(A)\times W(B)} = 1/4 $。
• 矩阵函数$ f(A) $的Fréchet导数满足$ \|Df\{A\}\|_2 \leq (1+\sqrt{2})^2 \|f'\|_{W(A)} $，提供了一个与特征向量条件数无关的条件数界。
• 对于$ f\{A,B\}c $的Krylov子空间逼近，误差满足$ \|f\{A,B\}c - x_{k,\ell}\|_2 \leq 2(1+\sqrt{2})^2 \|c\|_2 \inf_{p \in \Pi_{k-1,\ell-1}} \|f - p\|_{W(A)\times W(B)} $，将收敛性与双变量多项式逼近联系起来。
• 该界可推广至$ d $-变量函数，常数为$ (1+\sqrt{2})^d $，该常数为最优，且在无额外假设下无法改进。
• 若$ d $个矩阵中有$ k $个为正规矩阵，则常数可减小为$ (1+\sqrt{2})^{d-k} $，反映出正规情况下的稳定性提升。