[论文解读] A universal matrix-free split preconditioner for the fixed-point iterative solution of non-symmetric linear systems

Tom Vettenburg, Ivo M. Vellekoop|arXiv (Cornell University)|Jul 28, 2022

Matrix Theory and Algorithms被引用 4

一句话总结

本文提出了一种通用的无矩阵分裂预条件子，通过利用任意分裂 $A = L + V$ 且满足 $\|V\| < 1$ 的条件，确保所有非对称、增生型线性系统 $A\bm{x} = \bm{y}$ 的定点迭代单调收敛。该预条件子的唯一形式 $(L + I)(I - V)^{-1}$ 实现了无需内迭代的无矩阵求值，并可消除前向问题，将每次迭代的计算成本减半，同时在各类PDE和延迟微分方程中保证收敛性。

ABSTRACT

We present an efficient preconditioner for linear problems $A x=y$. It guarantees monotonic convergence of the memory-efficient fixed-point iteration for all accretive systems of the form $A = L + V$, where $L$ is an approximation of $A$, and the system is scaled so that the discrepancy is bounded with $\lVert V Vert&lt;1$. In contrast to common splitting preconditioners, our approach is not restricted to any particular splitting. Therefore, the approximate problem can be chosen so that an analytic solution is available to efficiently evaluate the preconditioner. We prove that the only preconditioner with this property has the form $(L+I)(I - V)^{-1}$. This unique form moreover permits the elimination of the forward problem from the preconditioned system, often halving the time required per iteration. We demonstrate and evaluate our approach for wave problems, diffusion problems, and pantograph delay differential equations. With the latter we show how the method extends to general, not necessarily accretive, linear systems.

研究动机与目标

• 通过确保单调收敛，解决非对称线性系统中定点迭代的不稳定性和高内存开销问题。
• 克服传统预条件子需要对大型算子进行迭代求逆的局限性。
• 开发一种适用于任意分裂 $A = L + V$ 且 $\|V\| < 1$ 的无矩阵预条件子，实现高效、闭式求值。
• 消除预条件系统中前向问题的计算开销，显著降低每次迭代的时间成本。
• 通过变换为等价的增生形式，将该方法推广至一般非增生系统。

提出的方法

• 提出一种通用预条件子形式 $\Gamma = (L + I)(I - V)^{-1}$，其中 $A = L + V$ 且 $\|V\| < 1$，确保 $\|I - \Gamma^{-1}A\| < 1$，从而实现单调收敛。
• 利用 $L$ 可选择为具有闭式逆的性质，实现无需迭代求解器的无矩阵求值。
• 推导一种变换，从预条件系统中消除前向问题，将迭代成本降低约50%。
• 证明所提出的预条件子是唯一能对任意分裂的增生系统保证单调收敛的预条件子形式。
• 将该方法应用于波动方程、扩散方程和延迟微分方程，验证其在各类PDE中的鲁棒性与高效性。
• 利用算子范数界和谱分析推导收敛速率估计，包括一般情况下的 $\|M\| \leq 1 - \frac{1}{S}$ 及厄米特情况下的更紧界。

实验结果

研究问题

• RQ1 能否构造一种无矩阵预条件子，确保对任意分裂 $A = L + V$ 且 $\|V\| < 1$ 的系统均实现单调收敛？
• RQ2 是否存在一种唯一的预条件子形式，可确保对所有增生系统（无论分裂选择如何）均实现收敛？
• RQ3 能否在不牺牲精度的前提下，从预条件迭代中完全消除前向问题的计算开销？
• RQ4 与移位分裂及其他标准预条件子相比，该通用分裂预条件子在不同PDE中的收敛速率如何？
• RQ5 能否通过变换将系统转化为等价的增生形式，从而将该方法推广至非增生系统？

主要发现

• 预条件子 $(L + I)(I - V)^{-1}$ 是唯一能对所有满足 $\|V\| < 1$ 的增生系统保证定点迭代单调收敛的形式。
• 该方法实现了无需内迭代的无矩阵预条件子求值，具有高效率和低内存占用。
• 可从预条件系统中完全消除前向问题，实际中将每次迭代成本降低约50%。
• 推导出收敛速率界：一般情况下 $\|M\| \leq 1 - \frac{1}{S}$，厄米特情况下同样为 $\|M\| \leq 1 - \frac{1}{S}$，其中 $S = \|A^{-1}\|\|V\|$。
• 数值实验表明，该方法在Helmholtz方程、扩散方程和潘托格延迟方程中对GMRES、BiCGSTAB和定点迭代均表现出有效的收敛性。
• 通过将非增生系统变换为等价的增生形式，该方法成功扩展至非增生系统，显著拓宽了适用范围。