[논문 리뷰] Robust and effective eSIF preconditioning for general SPD matrices

Jianlin Xia|arXiv (Cornell University)|2020. 07. 07.

Electromagnetic Scattering and Analysis참고 문헌 20인용 수 4

한 줄 요약

이 논문은 일반 대칭 양의 정부호(SPD) 행렬을 위한 개선된 SIF(eSIF) 조건화자(preconditioner)를 제안한다. 이는 양측 블록 삼각 전처리와 향상된 스케일링 및 압축 전략을 사용하여 근사 정확도를 크게 향상시키고, 조건수 감소 효과를 높이며 고유값이 1 주위에 더 잘 뭉쳐지도록 한다. eSIF 방법은 안정화 없이도 항상 안정적이며, 양의 정부호성을 보장하며 원래 SIF보다 다양한 시험 행렬에서 수렴 속도와 효과성 면에서 뛰어나다.

ABSTRACT

We propose an unconditionally robust and highly effective preconditioner for general symmetric positive definite (SPD) matrices based on structured incomplete factorization (SIF), called enhanced SIF (eSIF) preconditioner. The original SIF strategy proposed recently derives a structured preconditioner by applying block diagonal preprocessing to the matrix and then compressing appropriate scaled off-diagonal blocks. Here, we use an enhanced scaling-and-compression strategy to design the new eSIF preconditioner. Some subtle modifications are made, such as the use of two-sided block triangular preprocessing. A practical multilevel eSIF scheme is then designed. We give rigorous analysis for both the enhanced scaling-and-compression strategy and the multilevel eSIF preconditioner. The new eSIF framework has some significant advantages and overcomes some major limitations of the SIF strategy. (i) With the same tolerance for compressing the off-diagonal blocks, the eSIF preconditioner can approximate the original matrix to a much higher accuracy. (ii) The new preconditioner leads to much more significant reductions of condition numbers due to an accelerated magnification effect for the decay in the singular values of the scaled off-diagonal blocks. (iii) With the new preconditioner, the eigenvalues of the preconditioned matrix are much better clustered around $1$. (iv) The multilevel eSIF preconditioner is further unconditionally robust or is guaranteed to be positive definite without the need of extra stabilization, while the multilevel SIF preconditioner has a strict requirement in order to preserve positive definiteness. Comprehensive numerical tests are used to show the advantages of the eSIF preconditioner in accelerating the convergence of iterative solutions.

연구 동기 및 목표

• 일반 SPD 행렬에 대한 원래 SIF 조건화자의 안정성과 정확도의 한계를 해결하기 위해.
• 다단계 SIF 체계에서 엄격한 양의 정부호성 요구 조건이 붕괴를 유도할 수 있는 문제를 해결하기 위해.
• 비대칭 블록의 특이값에서의 감쇠 확대 효과를 향상시켜 조건수 감소 속도를 가속화하기 위해.
• 높은 효과성과 안정성을 유지하는 실용적인 다단계 eSIF 체계를 설계하기 위해.
• 향상된 스케일링 및 압축 전략의 철학적 분석과 조건화자 품질에 미치는 영향을 철저히 분석하기 위해.

제안 방법

• 압축 이전에 SPD 행렬에 대해 이중측 블록 삼각 전처리를 적용하여 비대칭 블록의 조건수를 향상시킨다.
• 스케일된 비대칭 블록 $ C = L_1^{-1} A_{12} L_2^{-T} $ 를 사용하는 향상된 스케일링 및 압축 전략을 구현한다.
• C의 가장 큰 $ r $ 개의 특이값만 유지하며, 잘라내기 랭크 $ r $ 가 근사 정확도를 제어한다.
• 압축된 블록 기반의 구조적 불완전 분해를 구성하여 조건화자가 여전히 SPD임을 보장한다.
• 대각선 블록에 동일한 전략을 재귀적으로 적용하여 일단계 eSIF를 다단계 체계로 확장한다.
• 엄밀한 분석을 통해 eSIF 조건화자가 상대 오차 한계 $ ilde{ ho} $ 를 달성하며, 조건수는 $ rac{1+ ilde{ ho}}{1- ilde{ ho}} $ 가 되며, 여기서 $ ilde{ ho} o 0 $ 이 SIF보다 더 빠르게 수렴함을 증명한다.

실험 결과

연구 질문

• RQ1 같은 압축 허용 오차에서 eSIF 조건화자가 원래 SIF보다 더 높은 근사 정확도를 달성할 수 있는가?
• RQ2 향상된 스케일링 및 압축 전략이 비대칭 블록의 특이값에서 감쇠 확대 효과를 더 빠르게 유도하는가?
• RQ3 다단계 eSIF 조건화자가 안정성 없이도 항상 안정적이며, 즉 양의 정부호성을 보장하는가?
• RQ4 eSIF 하에서 조건화된 행렬의 고유값 분포가 SIF와 비교해 1 주위에 더 잘 뭉쳐지는가?
• RQ5 다양한 SPD 행렬에서 eSIF는 PCG 수렴 속도를 얼마나 가속화하는가?

주요 결과

• r=8일 때 eSIF 조건화자는 상대 오차 한계 $ 1.23 imes 10^{-14} $ 를 달성하며, SIF는 $ 9.09 imes 10^{-13} $ 이므로 근사 정확도가 크게 향상됨을 시사한다.
• eSIF의 조건화된 행렬 조건수는 r=8일 때 1.00으로 감소하였고, SIF는 최대 $ 6.21 imes 10^1 $ 에 이르렀으며, 이는 훨씬 뛰어난 조건화를 보여준다.
• eSIF를 사용할 경우 r=8일 때 PCG 수렴에 2–3회 반복만 필요하지만, SIF는 10–75회가 필요하여 수렴 속도가 10–75배 가속화됨을 보여준다.
• MHD3200B 행렬의 경우 eSIF는 PCG 반복 수를 SIF의 1/11로 줄였고, LinProg의 경우 1/7로 줄여, 다양한 시험 케이스에서 일관된 가속화를 확인한다.
• eSIF 하에서 조건화된 행렬의 고유값은 1 주위에 매우 조밀하게 뭉쳐져 있으며, 분산이 최소한이다. 반면 SIF는 더 넓은 분산을 보인다.
• 다단계 eSIF 조건화자는 안정화 없이도 항상 안정적이며, 양의 정부호성을 유지함을 보장하지만, 다단계 SIF는 그렇지 않다.