[论文解读] Preconditioning the Restarted and Shifted Block FOM Algorithm for Matrix Exponential Computation

Gang Wu, Hong‐Kui Pang+1 more|arXiv (Cornell University)|May 4, 2014

Matrix Theory and Algorithms参考文献 67被引用 3

一句话总结

本文提出了一种预处理的、重启的、带位移的块FOM算法（PSBFOM-DR），用于高效计算 $ e^{tA}B $，其中 $ A $ 是一个大型稀疏矩阵，$ B $ 是一个块向量。通过利用Carathéodory-Fejér逼近中的中等大小极点，该方法在保持实数算术和重启过程中的结构特性的同时，对所有位移系统进行预处理，从而在收敛性和精度方面优于现有最先进方法，尤其适用于大型Toeplitz矩阵。

ABSTRACT

The approximation of $e^{tA}B$ where $A$ is a large sparse matrix and $B$ a rectangular matrix is the key ingredient in many scientific and engineering computations. A powerful tool to manage the matrix exponential function is to resort to a suitable rational approximation such as the Carath$\acute{ m e}$odory-Fej$\acute{ m e}$r approximation, whose core reduces to solve shifted linear systems with multiple right-hand sides. The restarted and shifted block FOM algorithm is a commonly used technique for this problem. However, determining good preconditioners for shifted systems that preserve the original structure is a difficult task. In this paper, we propose a new preconditioner for the restarted and shifted block FOM algorithm. The key is that the absolute values of the poles of the Carath$\acute{ m e}$odory-Fej$\acute{ m e}$r approximation are medium sized and can be much smaller than the norm of the matrix in question. The advantages of the proposed strategy are that we can precondition all the shifted linear systems simultaneously, and preserve the original structure of the shifted linear systems after restarting. Theoretical results are provided to show the rationality of our preconditioning strategy. Applications of the new approach to Toeplitz matrix exponential problem are also discussed. Numerical experiments illustrate the superiority of the new algorithm over many state-of-the-art algorithms for matrix exponential.

研究动机与目标

• 为解决在指数积分器和PDE中关键问题的大型稀疏矩阵 $ e^{tA}B $ 的高效计算挑战。
• 克服为具有多个右端项的位移线性系统寻找结构保持预处理子的困难。
• 开发一种方法，实现对所有位移系统的同步预处理，同时在重启过程中保持实数算术和块结构。
• 改进大规模问题的收敛性和精度，特别是针对范数极大的Toeplitz矩阵。

提出的方法

• 该方法使用Carathéodory-Fejér有理逼近，将矩阵指数计算转化为求解多个右端项的位移线性系统。
• 基于观察结果——逼近中极点的绝对值远小于 $ \|A\| $——构造了一种新型预处理子，从而实现有效预处理。
• 预处理子被同时应用于所有位移系统，保持块结构，并允许即使在位移为复数时也使用实数算术。
• 使用重启的块FOM（FOM）算法求解预处理后的系统，并采用降维技术以增强收敛性。
• 通过利用预处理子的对称性及位移的结构特性，确保正交基在实数算术中构建。
• 对于Toeplitz矩阵，Gohberg-Semencul公式可通过FFT实现快速矩阵-向量乘积，从而加速求解过程。

实验结果

研究问题

• RQ1 能否设计一种预处理子，使所有在矩阵指数计算中出现的位移线性系统同时获得收敛性改善，同时保持原始矩阵结构？
• RQ2 如何利用Carathéodory-Fejér逼近中的中等大小极点来构造一种有效且结构保持的预处理子？
• RQ3 所提出的预处理策略是否能在位移为复数时保持FOM迭代中的实数算术，避免重启后使用昂贵的复数线性代数运算？
• RQ4 与最先进的方法（如位移-逆Arnoldi和基于Krylov子空间的求解器）相比，预处理重启块FOM算法在大型Toeplitz矩阵上的性能如何？
• RQ5 当 $ \|A\| $ 极大时，该方法是否仍能实现高精度和快速收敛，而标准方法会失效？

主要发现

• 对于 $ n = 2 \times 10^5 $ 的大型Toeplitz矩阵，PSBFOM-DR 算法的收敛速度显著快于位移-逆Arnoldi和块Arnoldi方法，在更少迭代次数内达到相当的精度。
• 在 $ n = 5 \times 10^4 $ 到 $ 2 \times 10^5 $ 范围内，PSBFOM-DR 胜过 expv、phipm、funm_Kryl 和 expmv，后几者因 $ A $ 的范数过大而无法收敛。
• 即使在复数位移下，该方法在整个FOM过程中保持实数算术，避免了重启后使用复数线性代数的计算开销。
• 预处理子成功地同时处理所有位移系统，改善了收敛性，且未破坏块结构。
• 数值结果表明，PSBFOM-DR 在 $ m = 30 $ 的Krylov子空间维数下即可实现高精度，而 SI-Arnoldi 和 SI-BArnoldi 则需 $ m = 60 $ 才能达到相近的子空间规模。
• 通过FFT和Gohberg-Semencul公式实现的快速Toeplitz矩阵-向量乘积，使该方法实现高效计算，具备扩展至超大矩阵的能力。