[論文レビュー] Robust and effective eSIF preconditioning for general SPD matrices

Jianlin Xia|arXiv (Cornell University)|Jul 7, 2020

Electromagnetic Scattering and Analysis参考文献 20被引用数 4

ひとこと要約

本稿では、一般の対称正定値（SPD）行列に対して、二重側ブロック下三角前処理と向上したスケーリング・圧縮戦略を用いた、拡張されたSIF（eSIF）前処理行列を提案する。これにより、著しく高い近似精度、より良い条件数の低減、および1周囲りの優れた固有値クラスタリングが達成される。eSIF手法は、安定化を要せず正定値性を保証するという意味で、絶対的に頑健であり、多様なテスト行列において、元のSIFに比べて収束速度と有効性が優れている。

ABSTRACT

We propose an unconditionally robust and highly effective preconditioner for general symmetric positive definite (SPD) matrices based on structured incomplete factorization (SIF), called enhanced SIF (eSIF) preconditioner. The original SIF strategy proposed recently derives a structured preconditioner by applying block diagonal preprocessing to the matrix and then compressing appropriate scaled off-diagonal blocks. Here, we use an enhanced scaling-and-compression strategy to design the new eSIF preconditioner. Some subtle modifications are made, such as the use of two-sided block triangular preprocessing. A practical multilevel eSIF scheme is then designed. We give rigorous analysis for both the enhanced scaling-and-compression strategy and the multilevel eSIF preconditioner. The new eSIF framework has some significant advantages and overcomes some major limitations of the SIF strategy. (i) With the same tolerance for compressing the off-diagonal blocks, the eSIF preconditioner can approximate the original matrix to a much higher accuracy. (ii) The new preconditioner leads to much more significant reductions of condition numbers due to an accelerated magnification effect for the decay in the singular values of the scaled off-diagonal blocks. (iii) With the new preconditioner, the eigenvalues of the preconditioned matrix are much better clustered around $1$. (iv) The multilevel eSIF preconditioner is further unconditionally robust or is guaranteed to be positive definite without the need of extra stabilization, while the multilevel SIF preconditioner has a strict requirement in order to preserve positive definiteness. Comprehensive numerical tests are used to show the advantages of the eSIF preconditioner in accelerating the convergence of iterative solutions.

研究の動機と目的

• 一般のSPD行列に対する元のSIF前処理行列の頑健性と精度の限界を解消すること。
• 多層SIFスキームで厳密な正定値性を要求するが、その結果として計算が破綻する問題を克服すること。
• 非対角ブロックの特異値における崩壊拡大効果を強化し、条件数の低減を加速すること。
• 高い有効性と安定性を維持する実用的な多層eSIFスキームを設計すること。
• 向上したスケーリング・圧縮戦略の厳密な解析と、前処理行列の品質に与える影響を明らかにすること。

提案手法

• 圧縮の前段階として、SPD行列に二重側ブロック下三角前処理を適用し、非対角ブロックの条件数を改善する。
• スケーリングされた非対角ブロック $ C = L_1^{-1} A_{12} L_2^{-T} $ を用いた、向上したスケーリング・圧縮戦略を実装する。
• C の最大 $ r $ 個の特異値のみを保持し、切り捨てランク $ r $ が近似精度を制御する。
• 圧縮されたブロックに基づく構造的不完全分解を構築し、前処理行列が依然としてSPDの性質を保つようにする。
• 対角ブロックに対して同じ戦略を再帰的に適用することで、1層eSIFを多層スキームに拡張する。
• 厳密な解析により、eSIF前処理行列が相対誤差バウンド $ ilde{ ho} $ を達成することを証明し、条件数が $ rac{1+ ilde{ ho}}{1- ilde{ ho}} $ となることを示す。ここで $ ilde{ ho} o 0 $ はSIFよりも速い。

実験結果

リサーチクエスチョン

• RQ1 同じ圧縮許容誤差のもとで、eSIF前処理行列は元のSIFに比べてより高い近似精度を達成できるか？
• RQ2 向上したスケーリング・圧縮戦略により、非対角ブロックの特異値における崩壊拡大効果が速やかに発現するか？
• RQ3 多層eSIF前処理行列は、安定化を要せず、絶対的に頑健（正定値性が保証される）と言えるか？
• RQ4 eSIFにおける前処理行列の固有値分布は、SIFと比較してどのように異なるか、特に1周囲りのクラスタリングの程度はどうか？
• RQ5 eSIFは多様なSPD行列において、PCG法の収束をどの程度高速化できるか？

主な発見

• eSIF前処理行列は $ r=8 $ 時に相対誤差バウンド $ 1.23 imes 10^{-14} $ を達成したのに対し、SIFは $ 9.09 imes 10^{-13} $ であった。これは著しく高い近似精度を示している。
• eSIF（$ r=8 $）では前処理行列の条件数が1.00にまで低減されたが、SIFでは最大 $ 6.21 imes 10^1 $ にまで上昇した。これは、eSIFの優れた条件数の低減を示している。
• PCG収束においてeSIFは $ r=8 $ 時に2〜3イテレーションで収束したが、SIFは10〜75イテレーションを要した。収束速度は10〜75倍速くなった。
• MHD3200B行列ではeSIFがSIFの1/11のイテレーション数に、LinProgでは1/7にまで低減された。これは、テストケース全体にわたる一貫した収束加速を示している。
• eSIFにおける前処理行列の固有値は1周囲りにきわめて緊密にクラスタリングされており、散らばりが最小限である。これに対してSIFは広範な分散を示している。
• 多層eSIF前処理行列は、安定化を要せず、正定値性が保証されるという意味で絶対的に頑健であり、多層SIFとは異なり、追加の安定化措置が不要である。