[논문 리뷰] The field of values bound on ideal GMRES

Jörg Liesen, Petr Tichý|arXiv (Cornell University)|2012. 11. 26.

Matrix Theory and Algorithms참고 문헌 23인용 수 10

한 줄 요약

이 논문은 스타르크와 아이어만이 이전에 최악의 경우 GMRES에 대해 알려진 필드 오브 밸류 기반의 경계가 이상적 GMRES에도 적용된다는 것을 입증한다. 이는 Krylov 부분공간 방법에 대해 더 날카운 수렴 추정치를 제공한다. 주요 기여는 이상적 GMRES에 대해 경계 $ (1 - \nu(A)\nu(A^{-1}))^{k/2} $ 가 항상 성립함을 증명함으로써, 이전의 경계를 향상시키고 비히르미트 선형계에 대한 실용적인 수렴 분석 도구를 제공한다.

ABSTRACT

A widely known result of Elman, and its improvements due to Starke, Eiermann and Ernst, gives a bound on the worst-case GMRES residual norm using quantities related to the field of values of the given matrix and its inverse. We prove that these bounds also hold for the ideal GMRES approximation, and we derive and discuss some improvements of the bounds.

연구 동기 및 목표

• 스타르크와 아이어만의 필드 오브 밸류 기반 수렴 경계를 최악의 경우 GMRES에서 이상적 GMRES로 확장한다.
• 일반적인 비특이 행렬에 적용 가능한 Krylov 부분공간 방법의 통합된 수렴 분석 프레임워크를 제공한다.
• 볼록 포함 영역과 파벨 다항식 기법을 활용하여 기존 경계를 향상시킨다.
• 행렬 $ A $ 의 대칭 부분이 양의 정부호일 필요 없이도 경계 $ (1 - \nu(A)\nu(A^{-1}))^{k/2} $ 가 이상적 GMRES에 대해 유효함을 입증한다.
• 특히 비정규 행렬에 대해 고전적 경계(예: 엘먼의 경계)보다 더 날카운 실용적인 수렴 추정치를 제공한다.

제안 방법

• 다항식 근사 이론을 사용하여, 이전에 최악의 경우 GMRES에만 유효했던 경계 $ (1 - \nu(A)\nu(A^{-1}))^{k/2} $ 가 이상적 GMRES에도 성립함을 증명한다.
• 다각형 영역 $ \fancyscript{F}(A) \ni \text{Re}(z) \to r(A)\text{Re}(z) \geq r(A)\cos\beta $ 를 사용하여, 필드 오브 밸류를 둘러싸는 원형 세그먼트를 정의한다. 여기서 $ \cos\beta = \nu(A)/r(A) $ 이다.
• 파벨 다항식 기법과 등각 사상 기법을 적용하여 경계 $ \min_{p\in\pi_k}\|p(A)\| \leq (2 + \rho_\beta)\rho_\beta^k $ 를 유도한다. 여기서 $ \rho_\beta = 2\sin(\beta/(4 - 2\beta/\pi)) $ 이다.
• 디스크 포함을 이용한 대안 경계를 유도한다: $ \fancyscript{F}(A) \subseteq D $ 이면 $ \min_{p\in\pi_k}\|p(A)\| \leq 2|\delta/c|^k $ 이다. 여기서 $ c = (\nu(A) + r(A))/2 $, $ \delta = (r(A) - \nu(A))/2 $ 이다.
• 고유값이 3인 $ 100 \times 100 $ 조르당 블록에서 경계를 수치적으로 비교하여, 정확한 필드 오브 밸류 기하학 때문에 디스크 기반 경계가 가장 날카롭게 나타남을 보였다.
• 다항식 노름 간의 관계를 유도하기 위해 부등식 $ \|p(A)\| \leq 2\max_{z\in D}|p(z)| $ 를 사용한다.

실험 결과

연구 질문

• RQ1 최악의 경우 GMRES에 대해 알려진 필드 오브 밸류 경계 $ (1 - \nu(A)\nu(A^{-1}))^{k/2} $ 는 이상적 GMRES로도 확장 가능한가?
• RQ2 다양한 볼록 포함 영역(예: 디스크, 원형 세그먼트)이 이상적 GMRES 경계의 날카움에 어떤 영향을 미치는가?
• RQ3 수렴 인자 $ \nu(A)\nu(A^{-1}) $ 와 행렬 $ A $ 의 스펙트럼 성질 간의 관계는 무엇인가? 특히 비정규 행렬의 경우에 대해.
• RQ4 디스크 기반 포함과 파벨 다항식 기법을 사용하여 베크어르만-고레인وف-티르티시코프 결과를 초월하는 더 날카운 경계를 도출할 수 있는가?
• RQ5 이론적 경계는 실질적인 수치 계산에서 어떻게 비교되는가? 특히 필드 오브 밸류 기하학이 단순한(예: 조르당 블록) 행렬에 대해 어떻게 작용하는가?

주요 결과

• 경계 $ (1 - \nu(A)\nu(A^{-1}))^{k/2} $ 는 이상적 GMRES에도 성립함을 입증하였으며, 이는 최악의 경우 GMRES에 국한되지 않고 최적의 Krylov 근사에까지 적용 가능함을 의미한다.
• 고유값 $ \lambda = 3 $ 인 $ 100 \times 100 $ 조르당 블록에서 이상적 GMRES 잔여 노름은 정확히 $ \lambda^{-k} = 3^{-k} $ 로 나타나며, 이는 기준선 역할을 한다.
• 디스크 기반 경계 $ 2|\delta/c|^k $ 는 $ c = (\nu(A) + r(A))/2 $, $ \delta = (r(A) - \nu(A))/2 $ 이며, $ |\delta/c| = (1 - \cos\beta)/(1 + \cos\beta) $ 로 표현되며, 이는 $ \rho_\beta $ 보다 작아서 일반적인 파벨 다항식 경계보다 더 날카롭다.
• 수렴 인자 $ (1 - \nu(A)\nu(A^{-1})) $ 는 $ 1 - \nu(A)^2/\|A\|^2 $ 보다 엄격히 작다. 이는 스타르크의 경계가 엘먼의 고전적 결과를 향상시킴을 확인한다.
• 수치 결과에 따르면, 필드 오브 밸류가 거의 원형에 가까운 행렬의 경우, 디스크 기반 경계가 일반적인 파벨 다항식 경계 $ (2 + \rho_\beta)\rho_\beta^k $ 보다 훨씬 날카롭게 나타난다.
• 경계 $ \min_{p\in\pi_k}\|p(A)\| \leq 2|\delta/c|^k $ 는 새로운 증명을 통해 유도되었으며, 이 증명은 $ \|p(A)\| \leq 2\max_{z\in D}|p(z)| $ 와 디스크 $ D $ 상에서 $ (1 - z/c)^k $ 의 최소최대 성질을 활용한다.