[논문 리뷰] Polynomial Preconditioned Arnoldi

Mark Embree, Jennifer Loe외 1명|arXiv (Cornell University)|2018. 06. 21.

Matrix Theory and Algorithms참고 문헌 25인용 수 3

한 줄 요약

이 논문은 GMRES에 의해 생성된 다항식을 사용해 스펙트럼을 이동시켜 고차수 다항식 근사의 효율적 사용을 가능하게 하면서도 카르마르 서브스페이스 차원을 증가시키지 않는 다항식 조건화를 적용한 아르니올드 방법을 제안한다. 이 방법은 특히 병렬 계산에서 통신 비용이 높은 내적 연산을 크게 줄이며, 이중 다항식 조건화와 루트 중복 기법을 통해 안정성을 향상시켜 수렴성을 유지한다.

ABSTRACT

Polynomial preconditioning can improve the convergence of the Arnoldi method for computing eigenvalues. Such preconditioning significantly reduces the cost of orthogonalization; for difficult problems, it can also reduce the number of matrix-vector products. Parallel computations can particularly benefit from the reduction of communication-intensive operations. The GMRES algorithm provides a simple and effective way of generating the preconditioning polynomial. For some problems high degree polynomials are especially effective, but they can lead to stability problems that must be mitigated. A two-level "double polynomial preconditioning" strategy provides an effective way to generate high-degree preconditioners.

연구 동기 및 목표

• 대규모이고 어려운 고유값 문제에 대해 표준 아르니올드 방법의 느린 수렴 문제를 해결한다.
• 행렬 역행렬 계산이 필요 없는, 실용적이고 저비용의 시프트-인버트 스펙트럼 변환의 대안을 개발한다.
• 행렬-벡터 곱을 내적에 기반한 연산으로 대체하여 병렬 계산에서의 통신 및 직교화 비용을 줄인다.
• 고차수 다항식을 조건화에 사용할 경우의 수치적 안정성을 확보한다.
• 고도의 조건화 전략을 통해 내부 고유값의 효율적 계산을 가능하게 한다.

제안 방법

• GMRES 최소 잔여 다항식에서 유도된 다항식 조건화자 $\pi$ 를 사용해 $\pi(A)$ 에 아르니올드 방법을 적용한다.
• GMRES 알고리즘을 통해 행렬 $A$ 의 원하는 고유값을 $\pi(A)$ 의 크기가 큰 고유값으로 매핑하는 다항식 $\pi$ 를 생성함으로써 수렴성을 향상시킨다.
• 형태 $\mathcal{K}_m(\pi(A), v)$ 의 카르마르 서브스페이스를 구성하며, 이는 고차수 카르마르 공간 $\mathcal{K}_{d(m-1)+1}(A,v)$ 의 부분공간이므로 낮은 차원으로도 고정밀도 근사가 가능하다.
• 두 번째 GMRES 다항식 $\pi_2$ 를 $\tau(A) = 1 - \pi_1(A)$ 에 적용하여 이중 다항식 조건화를 구현함으로써 차수 $d_1 d_2$ 의 복합 다항식을 형성하고, 고차수 근사화를 높은 차원의 서브스페이스 없이도 가능하게 한다.
• 특히 고유값이 잘 분리되어 있지 않을 경우에 안정성을 확보하기 위해 조건화 다항식에 중복된 루트를 추가함으로써 방법의 안정성을 높인다.
• 불안정성을 탐지하고 루트 중복을 안내하기 위해 MaxPof 테스트를 사용한다.

실험 결과

연구 질문

• RQ1 GMRES에 의해 생성된 다항식을 통한 조건화가 아르니올드 기반 고유값 계산에서 행렬-벡터 곱과 내적 연산의 수를 크게 줄일 수 있는가?
• RQ2 카르마르 서브스페이스 차원이나 직교화 비용을 증가시키지 않고도 고차수 다항식 근사를 고유값 문제에 효과적으로 적용할 수 있는가?
• RQ3 고유값이 잘 분리되어 있지 않거나 고차수 다항식이 수치적 불안정성을 유도할 경우, 다항식 조건화를 안정화하기 위한 전략은 무엇인가?
• RQ4 이중 다항식 조건화가 매우 고차수 다항식을 효율적으로 사용할 수 있는가? 이는 단일 조건화와 비교해 계산 비용과 수렴성 측면에서 어떻게 다른가?
• RQ5 GMRES의 시작 벡터 선택 및 그 데임핑이 원하는 고유값을 효과적으로 포착하는 데 있어 다항식 조건화의 효과성에 어떤 영향을 미치는가?

주요 결과

• 대류-확산 문제에 대해 이중 다항식 조건화를 사용한 경우, 차수 $25 \times 40 = 1000$ 으로 내적 연산 수를 52,312에서 321.0으로 줄였으며, 단일 조건화 대비 열 배 감소를 기록했다.
• 차수 $d_1 = 15$, $d_2 = 20$ 일 때, 이중 조건화는 아르니올드 사이클 2회 내에 수렴했고, 사이클당 내적 연산 수는 2.1로 단일 조건화의 9.9보다 크게 감소했다.
• 20,000 근처에 문제가 있는 고유값을 가진 행렬에 대해, 단일 다항식 조건화자($d_1 = 5$) 는 $\pi_2(\tau(A))$ 에서 떨어진 고유값으로 인해 수렴하지 못했지만, 이중 루트를 추가함으로써 2회 사이클 내에 수렴을 달성했다.
• 이중 다항식 조건화를 통해 아르니올드(50,20)는 복합 차수 1000으로 한 번의 사이클 내에 수렴했으며, 고차수 근사화에 대한 확장성을 입증했다.
• MaxPof 테스트는 조건화자에서의 불안정성을 성공적으로 탐지하고, 수렴성을 복구하기 위한 효과적인 루트 중복을 안내했다.
• 비용이 높은 내적 연산을 더 저렴한 행렬-벡터 곱으로 대체함으로써, 이 방법은 통신 비용을 크게 줄여 고성능 계산에 매우 유리하다.