[논문 리뷰] Deflated Iterative Methods for Linear Equations with Multiple Right-Hand Sides

Ronald B. Morgan, Walter Wilcox|ArXiv.org|2004. 05. 20.

Matrix Theory and Algorithms참고 문헌 39인용 수 27

한 줄 요약

이 논문은 다수의 우변을 가진 큰 비대칭 선형 연립방정식을 푸는 데 있어, 초기 GMRES-DR 해법을 통해 구한 고유벡터 정보를 활용해 후속 해법의 수렴을 가속화하는, 탈출 기반 반복 방법을 제안한다. 이후 시스템을 이전에 계산된 근사 고유벡터가 생성하는 부분공간에 투영함으로써 수렴이 크게 향상되며, 특히 작은 고유값을 가진 문제에서 두드러진 성능 향상을 보인다. 양자 chromodynamics(QCD) 응용 분야에서 표준 재시작 GMRES 대비 10배 빠른 성능 향상을 입증하였다.

ABSTRACT

A new approach is discussed for solving large nonsymmetric systems of linear equations with multiple right-hand sides. The first system is solved with a deflated GMRES method that generates eigenvector information at the same time that the linear equations are solved. Subsequent systems are solved by combining an iterative method with a projection over the previously determined eigenvectors. Restarted GMRES is considered for the iterative method as well as non-restarted methods such as BiCGSTAB. These methods offer an alternative to block methods, and they can also be combined with a block approach. An example is given showing significant improvement for a problem from quantum chromodynamics.

연구 동기 및 목표

• 작은 고유값이 수렴을 저해하는 경우에도 큰 비대칭 선형 연립방정식을 다수의 우변을 가진 상황에서 효율적으로 해결하는 데 도전한다.
• 표준 블록 방법과 재시작 Krylov 해법의 한계를 극복하기 위해 첫 번째 시스템을 풀면서 생성된 고유벡터 정보를 활용해 후속 해법의 수렴을 가속화한다.
• 모든 우변이 동시에 이용 가능할 필요가 없는 실용적이고 비침습적인 접근법을 개발한다.
• 특히 라티스 양자 chromodynamics(QCD)에서 흔히 발생하고 계산적으로 부담스러운 실제 문제들에 대해 효과성을 입증한다.

제안 방법

• 첫 번째 우변을 풀기 위해 GMRES-DR(GMRES with deflated restarting)를 사용하며, 同시에 작은 고유값에 대응하는 근사 고유벡터를 생성한다.
• 후속 우변을 계산된 근사 고유벡터가 생성하는 부분공간에 최소 잔차(minres) 투영을 통해 투영함으로써 문제적인 고유모드를 탈출한다.
• 재시작된 GMRES를 사이클 단위로 적용하며, GMRES-DR에서 유도된 조화 Ritz 벡터를 사용해 Krylov 부분공간을 재시작함으로써 수렴 특성을 향상시킨다.
• BiCGSTAB과 같은 비재시작 방법과 탈출을 조합하기 위해, 왼쪽과 오른쪽 근사 고유벡터 양쪽에 투영함으로써 수렴을 가속화한다.
• 고유벡터 생성 단계와 다수의 우변을 동시에 풀 때 블록 방법에 탈출을 통합함으로써 효율성을 높인다.
• 메모리 오버헤드를 최소화하기 위해 약간의 수정이 가미된 아르니올드 유사 재귀식(AV_k = V_{k+1}H̄_k)을 사용해 근사 고유벡터를 효율적으로 저장하고 갱신한다.

실험 결과

연구 질문

• RQ1 첫 번째 우변을 풀면서 생성된 고유벡터 정보를 다수의 우변을 가진 후속 시스템의 해법에 효과적으로 재사용할 수 있는가?
• RQ2 근사 고유벡터에 대한 투영을 통한 탈출 방식이 표준 블록 방법에 비해 수렴 속도와 계산 비용 측면에서 어떻게 비교되는가?
• RQ3 BiCGSTAB과 같은 비재시작 반복 해법과 탈출을 성공적으로 조합할 수 있으며, 그러한 조합을 위해 어떤 조건이 필요한가?
• RQ4 작은 고유값을 가진 실제 문제, 특히 라티스 양자 chromodynamics에서 발생하는 문제들에 대해 탈출이 성능 향상에 얼마나 기여하는가?
• RQ5 QCD에서 흔한 이동된 선형 시스템(Shifted linear systems)으로의 탈출 기법을 확장할 수 있으며, 한 번의 해법 비용에 가까운 비용으로 다수의 이동된 시스템을 동시에 풀 수 있는가?

주요 결과

• 라티스 QCD 문제에 대해 제안된 GMRES-Proj 방법은 표준 재시작 GMRES 대비 10배 빠른 수렴 속도를 달성하였다.
• 탈출 기반 블록-GMRES-DR(1220,40,20)는 40개의 우변을 위해 단 2400회의 행렬-벡터 곱을 요구하였으며, 비블록 변형 대비 행렬-벡터 곱 수 측면에서 뛰어난 성능을 보였다.
• 탈출 기반 블록-QMR는 10개의 우변에 대해 10⁻⁶ 정밀도에서 1782회의 행렬-벡터 곱을 1384회로 줄여 22% 감소시켰고, 10⁻⁴ 정밀도에서는 1076회로 31% 감소시켰다.
• 왼쪽과 오른쪽 고유벡터 각각 10개를 사용한 탈출은 세 개의 우변에 대해 블록-QMR의 행렬-벡터 곱 수를 922회에서 538회로 줄여 41.7% 감소시켰다.
• 모든 우변이 동시에 필요 없이 고유벡터 정보를 재사용할 수 있어, 순차적으로 시스템을 풀 수 있는 가능성을 제공한다.
• BiCGSTAB와의 탈출 조합은 왼쪽과 오른쪽 양쪽의 고유벡터가 필요하며, QCD 문제에서는 오른쪽 고유벡터를 계산한 후 이들가능성이 보장되어 있어, 이러한 응용 분야에 실용적인 접근법이 된다.