[논문 리뷰] Restoring similarity in randomized Krylov methods with applications to eigenvalue problems and matrix functions

Laura Grigori, Daniel Kressner외 2명|arXiv (Cornell University)|2026. 01. 15.

Matrix Theory and Algorithms인용 수 0

한 줄 요약

이 논문은 무작위 Arnoldi 과정에 유사도 회복 보정을 제안하여 그 Hessenberg 행렬을 표준 Arnoldi 행렬과 유사하게 만들고, 이를 고유값 문제 및 행렬 함수 평가에 적용한다.

ABSTRACT

The randomized Arnoldi process has been used in large-scale scientific computing because it produces a well-conditioned basis for the Krylov subspace more quickly than the standard Arnoldi process. However, the resulting Hessenberg matrix is generally not similar to the one produced by the standard Arnoldi process, which can lead to delays or spike-like irregularities in convergence. In this paper, we introduce a modification of the randomized Arnoldi process that restores similarity with the Hessenberg matrix generated by the standard Arnoldi process. This is accomplished by enforcing orthogonality between the last Arnoldi vector and the previously generated subspace, which requires solving only one additional least-squares problem. When applied to eigenvalue problems and matrix function evaluations, the modified randomized Arnoldi process produces approximations that are identical to those obtained with the standard Arnoldi process. Numerical experiments demonstrate that our approach is as fast as the randomized Arnoldi process and as robust as the standard Arnoldi process.

연구 동기 및 목표

• 무작위와 표준 Arnoldi에서 얻은 Hessenberg 행렬 간의 유사도 불일치에 대한 동기를 부여하고 이를 해결한다.
• 최소자승 보정을 통해 마지막 Arnoldi 벡터의 직교성을 강제함으로써 유사도를 회복하는 절차를 개발한다.
• 고유값 문제와 행렬 함수 평가에 대해 정확 산술에서 표준 Krylov 방법들과 동등하다는 것을 보인다.
• Krylov–Schur 프레임워크에서 고유값 계산에 대한 역안정성에 대한 통찰을 제공한다.

제안 방법

• U_m^H û_{m+1}=0 를 만족시키도록 최소자승 문제를 풀어 무작위 Arnoldi 과정에 유사도 회복 보정을 도입한다.
• 수정된 분해 AU_m = U_m Ĥ_m + û_{m+1} c_m^H 로 구성하고, Ĥ_m = H_m + ŷ_m c_m^H 이다.
• 결과 Ĥ_m이 표준 G_m과 유사하다는 것을 보이고, 정확 산술에서 동일한 Ritz 값을 산출한다.
• 고유값에 대해 무작위 Krylov–Schur에 이 수정 방법을 적용하고, f(A)b를 통한 행렬 함수 평가에도 적용한다.
• 계산 비용을 논의하고, 지배적 비용이 U_m^H U_m를 형성하는 것이며 보정은 실용적임을 강조한다.
• 선택적 스케치된 재직교화(sketch).ed reorthogonalization)를 포함한 실용적인 구현 개요를 제공한다.

Figure 3 : Execution time (s) for KS (left), SRR-KS (middle) and RKS (right) on Hermitian (top) and non-Hermitian (bottom) problems. The X-label and Y-label are $\ell$ and $m$ , the dimension of Krylov subspaces before and after restarting, respectively. The stopping criterion is when the residual n

실험 결과

연구 질문

• RQ1 유사도 회복 보정이 무작위 Arnoldi의 Hessenberg 행렬을 표준 Arnoldi Hessenberg 행렬과 유사하게 만들 수 있는가?
• RQ2 수정된 무작위 Krylov–Schur 방법이 정확 산술에서 표준 Krylov–Schur와 동일한 Ritz 값을 산출하는가?
• RQ3 고유값 계산에서 유사도 회복 접근의 역안정성 동작은 어떤가?
• RQ4 표준 접근법과 비교하여 Krylov 부분 공간을 통한 행렬 함수 계산에 수정된 방법이 어떤 영향을 미치는가?

주요 결과

• 유사도 회복 보정은 표준과 유사한 Krylov 분해를 산출하며, 정확 산술에서 Ritz 값들을 표준 방법과 일치시킨다.
• 제안된 방법은 무작위 Gram–Schmidt의 속도 우위를 보전하면서 표준 Arnoldi 과정의 강건성 및 고유값 정확도를 달성한다.
• 고유값 문제에서 보정된 무작위 Krylov–Schur 방법은 정확 산술에서 표준 Krylov–Schur의 수렴 특성과 일치한다.
• 유사도 때문에 잔차와 수치 범위가 더 잘 제어되어, A가 에르미트일 때의 잘못된 복소수 Ritz 값과 같은 문제를 완화한다.
• 수치 실험은 이 방법이 고속이며 무작위 Arnoldi만큼 빠르고, 고유값 문제와 행렬 함수 평가에 대해 표준 Arnoldi만큼 강건하다는 것을 시사한다.

Figure 4 : Convergence history of residual for KS, SRR-KS and RKS on Hermitian (left) and non-Hermitian (right) problems with $\ell=20$ and $m=30$ . The history of KS and SRR-KS are overlapped.