[논문 리뷰] A universal matrix-free split preconditioner for the fixed-point iterative solution of non-symmetric linear systems

Tom Vettenburg, Ivo M. Vellekoop|arXiv (Cornell University)|2022. 07. 28.

Matrix Theory and Algorithms인용 수 4

한 줄 요약

이 논문은 비대칭이고 축적성 있는 선형계 $A\bm{x} = \bm{y}$에 대해, 임의의 분해 $A = L + V$를 활용하여 $\|V\| < 1$인 조건을 만족시키는 보편적인 행렬식이 없는 분할 조건자(Preconditioner)를 제안한다. 고유한 조건자 형태 $(L + I)(I - V)^{-1}$는 내부 반복 없이 행렬식이 없는 평가를 가능하게 하며, 전방 문제를 제거함으로써 반복당 비용을 절반으로 줄이고 다양한 PDE와 지연 방정식에서 수렴성을 보장한다.

ABSTRACT

We present an efficient preconditioner for linear problems $A x=y$. It guarantees monotonic convergence of the memory-efficient fixed-point iteration for all accretive systems of the form $A = L + V$, where $L$ is an approximation of $A$, and the system is scaled so that the discrepancy is bounded with $\lVert V Vert&lt;1$. In contrast to common splitting preconditioners, our approach is not restricted to any particular splitting. Therefore, the approximate problem can be chosen so that an analytic solution is available to efficiently evaluate the preconditioner. We prove that the only preconditioner with this property has the form $(L+I)(I - V)^{-1}$. This unique form moreover permits the elimination of the forward problem from the preconditioned system, often halving the time required per iteration. We demonstrate and evaluate our approach for wave problems, diffusion problems, and pantograph delay differential equations. With the latter we show how the method extends to general, not necessarily accretive, linear systems.

연구 동기 및 목표

• 비대칭 선형계에서 고정점 반복의 불안정성과 높은 메모리 비용을 해결하기 위해 단조 수렴을 보장한다.
• 대규모 연산자를 반복적으로 역행렬화해야 하는 전통적 조건자의 한계를 극복한다.
• 모든 분해 $A = L + V$에 대해 $\|V\| < 1$를 만족하는 보편적인 행렬식이 없는 조건자를 개발하여, 효율적이고 폐쇄형 평가가 가능하도록 한다.
• 조건자 시스템에서 전방 문제의 계산 비용을 제거하여 반복당 시간을 크게 줄인다.
• 일반적인 비축적성 시스템에 대해 등가의 축적성 형태로 변환함으로써 방법을 확장한다.

제안 방법

• 분해 $A = L + V$와 $\|V\| < 1$ 조건을 만족하는 보편적 조건자 $\Gamma = (L + I)(I - V)^{-1}$를 제안하여, 고정점 반복의 단조 수렴을 보장하는 $\|I - \Gamma^{-1}A\| < 1$ 조건을 확보한다.
• L이 폐쇄형 역행렬을 가질 수 있도록 선택할 수 있음을 활용하여, 반복적 해법이 필요 없이 행렬식이 없는 평가가 가능하다.
• 조건자 시스템에서 전방 문제를 제거하는 변환을 유도하여 반복 비용을 최대 50%까지 감소시킨다.
• 제안된 조건자가 임의의 분해에 대해 축적성 시스템에 대해 단조 수렴을 보장하는 唯一支형임을 증명한다.
• 파동, 확산, 지연 미분 방정식에 대해 적용하여 다양한 PDE에서의 강건성과 효율성을 입증한다.
• 연산자 노름 한계와 스펙트럼 분석을 활용하여 수렴 속도 추정치를 유도하며, 일반 경우의 $\|M\| \leq 1 - \frac{1}{S}$ 및 허미션 경우의 더 날카운 한계를 도출한다.

실험 결과

연구 질문

• RQ1 모든 분해 $A = L + V$에 대해 $\|V\| < 1$ 조건을 만족하는 보편적인 행렬식이 없는 조건자를 구성할 수 있는가?
• RQ2 임의의 분해 선택에 관계없이 모든 축적성 시스템에 대해 수렴을 보장하는 유일한 조건자 형태가 존재하는가?
• RQ3 정확도를 저하시키지 않고 조건자 반복에서 전방 문제의 계산 비용을 제거할 수 있는가?
• RQ4 보편적인 분할 조건자와 시프트-분할, 기타 표준 조건자 간의 수렴 속도는 다양한 PDE에서 어떻게 비교되는가?
• RQ5 비축적성 시스템에 대해 등가의 축적성 형태로 변환함으로써 방법을 확장할 수 있는가?

주요 결과

• 조건자 $(L + I)(I - V)^{-1}$는 $\|V\| < 1$ 조건을 만족하는 모든 축적성 시스템에 대해 고정점 반복의 단조 수렴을 보장하는 유일한 형태이다.
• 이 방법은 내부 반복 없이 조건자를 행렬식이 없는 방식으로 평가할 수 있게 하여 높은 효율성과 낮은 메모리 사용을 달성한다.
• 조건자 시스템에서 전방 문제를 제거할 수 있어 실질적으로 반복당 비용을 약 50%까지 감소시킨다.
• 수렴 속도 한계가 도출되었으며, 일반 경우 $\|M\| \leq 1 - \frac{1}{S}$ 및 허미션 경우 $\|M\| \leq 1 - \frac{1}{S}$, 여기서 $S = \|A^{-1}\|\|V\|$이다.
• 수치 실험 결과, GMRES, BiCGSTAB 및 고정점 반복 모두에서 헬름홀츠 방정식, 확산 방정식, 팬토그 지연 방정식에서 효과적인 수렴이 관찰되었다.
• 비축적성 시스템은 등가의 축적성 형태로 변환함으로써 성공적으로 확장되었으며, 적용 범위가 넓어졌다.