[논문 리뷰] Preconditioning the Restarted and Shifted Block FOM Algorithm for Matrix Exponential Computation

Gang Wu, Hong‐Kui Pang외 1명|arXiv (Cornell University)|2014. 05. 04.

Matrix Theory and Algorithms참고 문헌 67인용 수 3

한 줄 요약

이 논문은 큰 희소 행렬 $ A $ 와 블록 벡터 $ B $ 에 대해 $ e^{tA}B $ 를 효율적으로 계산하기 위한 전조건화된, 재시작되는, 이동된 블록 FOM 알고리즘(PSBFOM-DR)을 제안한다. 카라테오도리-페지어 근사의 중간 크기의 극점을 활용하여, 재시작 중에도 실수 산술과 구조를 유지하면서 모든 이동된 선형 시스템을 동시에 전조건화한다. 이로 인해 최신 기법들보다 뛰어난 수렴성과 정확도를 달성하였으며, 특히 큰 토플리츠 행렬에 대해 뛰어난 성능을 보였다.

ABSTRACT

The approximation of $e^{tA}B$ where $A$ is a large sparse matrix and $B$ a rectangular matrix is the key ingredient in many scientific and engineering computations. A powerful tool to manage the matrix exponential function is to resort to a suitable rational approximation such as the Carath$\acute{ m e}$odory-Fej$\acute{ m e}$r approximation, whose core reduces to solve shifted linear systems with multiple right-hand sides. The restarted and shifted block FOM algorithm is a commonly used technique for this problem. However, determining good preconditioners for shifted systems that preserve the original structure is a difficult task. In this paper, we propose a new preconditioner for the restarted and shifted block FOM algorithm. The key is that the absolute values of the poles of the Carath$\acute{ m e}$odory-Fej$\acute{ m e}$r approximation are medium sized and can be much smaller than the norm of the matrix in question. The advantages of the proposed strategy are that we can precondition all the shifted linear systems simultaneously, and preserve the original structure of the shifted linear systems after restarting. Theoretical results are provided to show the rationality of our preconditioning strategy. Applications of the new approach to Toeplitz matrix exponential problem are also discussed. Numerical experiments illustrate the superiority of the new algorithm over many state-of-the-art algorithms for matrix exponential.

연구 동기 및 목표

• 큰 희소 행렬에 대해 $ e^{tA}B $ 를 효율적으로 계산하는 데 도전하는 것 — 이는 지수 적분기법과 PDE에서 핵심적인 문제이다.
• 다중 우변을 가진 이동된 선형 시스템에 대해 구조를 유지하는 전조건자를 찾는 데 어려움을 해결하는 것.
• 재시작 중에도 실수 산술과 블록 구조를 유지하면서 모든 이동된 시스템을 동시에 전조건화할 수 있는 방법을 개발하는 것.
• 특히 노름이 매우 큰 토플리츠 행렬에 대해 대규모 문제에서 수렴성과 정확도를 향상시키는 것.

제안 방법

• 행렬 지수 계산을 다수의 이동된 선형 시스템과 다수의 우변을 가진 시스템을 푸는 것으로 줄이기 위해 카라테오도리-페지어 유리 근사법을 사용한다.
• 극점의 절대값이 $ \|A\| $ 보다 훨씬 작다는 관찰에 기반해, 효과적인 전조건자를 신규로 구성한다.
• 전조건자가 모든 이동된 시스템에 동시에 적용되어 블록 구조를 유지하고, 이동값이 복소수일 경우에도 실수 산술을 허용한다.
• 재시작된 블록 FOM(FOM) 알고리즘을 사용해 전조건화된 시스템을 풀며, 수렴성을 향상시키기 위해 탈출 기법을 적용한다.
• 전조건자의 대칭성과 이동값의 구조를 활용해, 직교 기저가 실수 산술에서 구성되도록 보장한다.
• 토플리츠 행렬의 경우, 고브버그-세멘쿨 공식을 통해 FFT를 활용한 빠른 행렬-벡터 곱셈이 가능하여 해법 과정을 가속화한다.

실험 결과

연구 질문

• RQ1 행렬 지수 계산에서 발생하는 모든 이동된 선형 시스템에 대해 수렴성을 동시에 향상시키면서도 원래 행렬의 구조를 유지하는 전조건자를 설계할 수 있는가?
• RQ2 카라테오도리-페지어 근사에서 중간 크기의 극점을 어떻게 활용하여 효과적이고 구조를 유지하는 전조건자를 구성할 수 있는가?
• RQ3 이동값이 복소수일 경우, 재시작 후 복소수 선형 대수의 비용을 피하기 위해 FOM 반복 과정에서 실수 산술을 유지할 수 있는가?
• RQ4 큰 토플리츠 행렬에 대해, 전조건화된 재시작된 블록 FOM 알고리즘이 시프트-인버트 아르놀디 및 Krylov 기반 해법과 같은 최신 기법들보다 성능이 뛰어나게 되는가?
• RQ5 표준 기법이 실패하는 바람에 $ \|A\| $ 가 매우 클 경우에도 높은 정확도와 빠른 수렴성을 달성할 수 있는가?

주요 결과

• 크기가 $ n = 2 \times 10^5 $ 인 큰 토플리츠 행렬에 대해 PSBFOM-DR 알고리즘이 시프트-인버트 아르놀디 및 블록 아르놀디 방법보다 수렴 속도가 빠르며, 더 적은 반복 수로 유사한 정확도를 달성한다.
• $ n = 5 \times 10^4 $ 에서 $ 2 \times 10^5 $ 사이의 범위에서 PSBFOM-DR은 expv, phipm, funm_Kryl, expmv를 능가하며, $ A $ 의 노름이 크기 때문에 수렴하지 못하는 기존 방법들보다 뛰어난 성능을 보인다.
• 복소수 이동값이 존재하더라도 FOM 과정 全 과정에서 실수 산술을 유지하여 재시작 후 비용이 큰 복소수 선형 대수를 피한다.
• 전조건자가 모든 이동된 시스템을 동시에 처리하여 구조를 유지하면서도 수렴성을 향상시킨다.
• 수치적 결과는 PSBFOM-DR이 $ m = 30 $ 의 Krylov 부분공간 차원에서 높은 정확도를 달성하는 반면, SI-Arnoldi 및 SI-BArnoldi는 유사한 부분공간 크기를 확보하기 위해 $ m = 60 $ 가 필요하다는 것을 보여준다.
• FFT와 고브버그-세멘쿨 공식을 통한 빠른 토플리츠 행렬-벡터 곱셈의 활용은 효율적인 구현을 가능하게 하여, 매우 큰 행렬에 대한 확장성도 확보한다.