[논문 리뷰] A bivariate extension of the Crouzeix-Palencia result with an application to Fréchet derivatives of matrix functions

Michel Crouzeix, Daniel Kreßner|arXiv (Cornell University)|2020. 07. 19.

Matrix Theory and Algorithms참고 문헌 11인용 수 4

한 줄 요약

이 논문은 이변수 행렬 함수로 Crouzeix-Palencia 부등식을 확장하며, $ f\{A,B\} $의 스펙트럴 노름이 $ W(A) \times W(B) $ 위에서 $ |f| $ 의 최댓값의 $ (1+\sqrt{2})^2 $ 배 이내로 유계임을 증명한다. 여기서 $ W(\cdot) $ 는 수치 범위를 나타낸다. 이 결과는 행렬 함수의 프레셰 도수를 유계로 제한하고, Krylov 부분공간 방법을 통한 행렬 함수 근사에서 수렴 분석에 응용된다.

ABSTRACT

A result by Crouzeix and Palencia states that the spectral norm of a matrix function $f(A)$ is bounded by $K = 1+\sqrt{2}$ times the maximum of $f$ on $W(A)$, the numerical range of $A$. The purpose of this work is to point out that this result extends to a certain notion of bivariate matrix functions; the spectral norm of $f\{A,B\}$ is bounded by $K^2$ times the maximum of $f$ on $W(A) imes W(B)$. As a special case, it follows that the spectral norm of the Fréchet derivative of $f(A)$ is bounded by $K^2$ times the maximum of $f^\prime$ on $W(A)$. An application to the convergence analysis of certain Krylov subspace methods and the extension to functions in more than two variables are discussed.

연구 동기 및 목표

• 일변수에서 이변수 행렬 함수로 Crouzeix-Palencia 결과를 확장하는 것.
• 수치 범위 $ W(A) \times W(B) $ 를 기반으로 이변수 행렬 함수 $ f\{A,B\} $ 의 날카운 스펙트럴 노름 유계를 확립하는 것.
• 이 유계를 통해 행렬 함수의 프레셰 도수 추정을 유도하는 것.
• 행렬 함수 근사에서 $ f\{A,B\}c $ 를 위한 Krylov 부분공간 방법의 수렴 분석을 지원하는 것.
• 변수 수에 대한 지수적 의존성을 가지는 다변수 함수로 결과를 일반화하는 것.

제안 방법

• 이중 경로 적분을 통한 이변수 행렬 함수 $ f\{A,B\} $ 의 정의: $ f\{A,B\} = -\frac{1}{4\pi^2} \oint_{\Gamma_A} \oint_{\Gamma_B} f(x,y) (yI - B)^{-1} \otimes (xI - A)^{-1} dy dx $.
• 행렬 값 버전의 Crouzeix-Palencia 부등식을 사용하여 $ \|f\{A,B\}\|_2 \leq (1+\sqrt{2})^2 \|f\|_{W(A)\times W(B)} $ 를 증명한다.
• $ f^{[1]}\{A,A^T\} $ 가 프레셰 도수 $ Df\{A\} $ 를 나타내므로, 이 이변수 결과를 통해 노름 유계를 확립할 수 있다.
• 이 유계를 Krylov 부분공간 방법에 적용하기 위해, $ f\{A,B\}c $ 의 오차를 $ W(A) \times W(B) $ 위에서 다항식 근사와 연결한다.
• $ d $-변수 함수로 결과를 일반화하여, 상수가 $ (1+\sqrt{2})^d $ 로 증가함을 보이며, 일부 행렬이 정규일 경우 개선됨을 보인다.
• 감소된 행렬에 대한 유계를 전달하기 위해 $ W(U_k^*AU_k) \subset W(A) $ 와 $ W(V_\ell^*BV_\ell) \subset W(B) $ 를 활용한다.

실험 결과

연구 질문

• RQ1 Crouzeix-Palencia 부등식은 이변수 행렬 함수로 확장될 수 있는가?
• RQ2 $ f $ 가 $ W(A) \times W(B) $ 에서의 스펙트럴 노름 유계에 대해 최적의 상수는 무엇인가?
• RQ3 이 이변수 유계는 어떻게 행렬 함수의 프레셰 도수 추정에 활용될 수 있는가?
• RQ4 이 유계는 이변수 행렬 함수에 대한 Krylov 부분공간 방법의 수렴 분석에 적용될 수 있는가?
• RQ5 다변수 확장에서 이 유계는 변수 수에 대해 어떻게 의존하는가?

주요 결과

• 이변수 행렬 함수 $ f\{A,B\} $ 의 스펙트럴 노름은 $ \|f\{A,B\}\|_2 \leq (1+\sqrt{2})^2 \|f\|_{W(A)\times W(B)} $ 를 만족하며, 상수 $ (1+\sqrt{2})^2 \approx 5.828 $ 이다.
• 상수 $ (1+\sqrt{2})^2 $ 는 날카롭고, $ 1+\sqrt{2} $ 로 줄일 수 없다. 반례로 $ A=B=\begin{bmatrix}0&1\\0&0\end{bmatrix} $, $ f(x,y)=xy $ 를 고르면 $ \|f\{A,B\}\|_2 = 1 $ 이고 $ \|f\|_{W(A)\times W(B)} = 1/4 $ 이다.
• 행렬 함수 $ f(A) $ 의 프레셰 도수에 대해 $ \|Df\{A\}\|_2 \leq (1+\sqrt{2})^2 \|f'\|_{W(A)} $ 를 만족하며, 고유벡터 조건수에 독립적인 조건수 유계를 제공한다.
• $ f\{A,B\}c $ 의 Krylov 부분공간 근사에서 오차는 $ \|f\{A,B\}c - x_{k,\ell}\|_2 \leq 2(1+\sqrt{2})^2 \|c\|_2 \inf_{p \in \Pi_{k-1,\ell-1}} \|f - p\|_{W(A)\times W(B)} $ 로 유계가 되며, 이는 수렴이 이변수 다항식 근사와 연결됨을 보여준다.
• 상수 $ (1+\sqrt{2})^d $ 를 가진 $ d $-변수 함수로 일반화되었으며, 이는 최적이며 추가 가정 없이 개선될 수 없다.
• 만약 $ d $ 개의 행렬 중 $ k $ 개가 정규일 경우 상수는 $ (1+\sqrt{2})^{d-k} $ 로 감소하며, 정규 경우의 개선된 안정성을 반영한다.