[論文レビュー] Two-Level Nyström-Schur Preconditioner for Sparse Symmetric Positive Definite Matrices

Hussam Al Daas, Tyrone Rees+1 more|arXiv (Cornell University)|Jan 1, 2021

Matrix Theory and Algorithms参考文献 38被引用数 7

ひとこと要約

本稿では、大規模なスパース対称正定値（SPD）線形系に対する、新しい二段階のNystr"om-Schurプリコンディショナを提案する。ランダム化Nystr"om法を用いて低ランク近似を計算することで、頑健な代数的プリコンディショニングを実現する。固有値問題を再定式化し、ゼロから離れた明確に分離された固有値を保証することで、ランダム化アルゴリズムの効率的利用が可能となり、数値実験では、ブロック共役勾配法を用いて内側のシュール補行列系を緩い収束許容誤差で解くことで、最小限の計算コストで高品質なプリコンディショナが得られることを示している。

ABSTRACT

Randomized methods are becoming increasingly popular in numerical linear algebra. However, few attempts have been made to use them in developing preconditioners. Our interest lies in solving large-scale sparse symmetric positive definite linear systems of equations where the system matrix is preordered to doubly bordered block diagonal form (for example, using a nested dissection ordering). We investigate the use of randomized methods to construct high quality preconditioners. In particular, we propose a new and efficient approach that employs Nystr\"om's method for computing low rank approximations to develop robust algebraic two-level preconditioners. Construction of the new preconditioners involves iteratively solving a smaller but denser symmetric positive definite Schur complement system with multiple right-hand sides. Numerical experiments on problems coming from a range of application areas demonstrate that this inner system can be solved cheaply using block conjugate gradients and that using a large convergence tolerance to limit the cost does not adversely affect the quality of the resulting Nystr\"om--Schur two-level preconditioner.

研究の動機と目的

• 大規模なスパース対称正定値（SPD）線形系のための、頑健で代数的な二段階プリコンディショナの開発。
• CG収束を妨げる小固有値を制御できない従来の一段階プリコンディショナの限界を克服すること。
• 通常は最大固有値に焦点を当てるが、最小固有値に関連する効果的なデフラーション部分空間を構築するために、特にNystr"om法を含むランダム化手法の使用を可能にすること。
• ランダム化ソルバーが効果的に適用可能となるよう、低ランク近似に関連する固有値問題を再定式化し、ゼロから離れた明確に分離された固有値を保証すること。
• プリコンディショニングされた系の期待スペクトル条件数に対する理論的境界を提供し、収束の頑健性を保証すること。

提案手法

• システム行列 A をネステッドディセクションを用いて二重に境界付きブロック対角形式に再順序付けし、サイズ nΓ のシュール補行列 AΓ を分離する。
• ベースとなるプリコンディショナ（例えば、不完全コレスキー分解）と、シュール補行列のランダム化Nystr"om近似から得られる低ランク補正項を組み合わせることで、二段階プリコンディショナを構築する。
• シュール補行列 AΓ にNystr"om法を適用し、低ランク近似を計算する。この際、固有値がゼロから明確に分離されるよう再定式化を行い、効果的なランダムサンプリングを可能にする。
• AΓ を含む内側の線形系を、緩い収束許容誤差を用いたブロック共役勾配法で解き、プリコンディショナ構築のコストを著しく削減する。
• 得られたプリコンディショナを共役勾配法に適用し、プリコンディショニングされた系の期待スペクトル条件数に関する理論的境界を提供する。
• 本手法は、構造力学や有限要素問題を含む多様な応用分野から得られた多数の SPD 行列に対して実装・テストされている。

実験結果

リサーチクエスチョン

• RQ1 通常は主成分に焦点を当てるが、最小固有値に関連する高品質なデフラーション部分空間を構築するために、ランダム化Nystr"om法がSPD系に効果的に適用可能かどうか。
• RQ2 低ランク近似に関連する固有値問題をどのように再定式化すれば、ゼロから離れた明確に分離された固有値を保証でき、ランダム化ソルバーの効率的利用が可能になるか。
• RQ3 内側のシュール補行列系の解法において緩い収束許容誤差を使用した場合、得られる二段階プリコンディショナの品質と頑健性にどのような影響を与えるか。
• RQ4 特に悪条件な問題において、標準的な一段階プリコンディショナ（IC や HSL_MI28）と比較して、提案された二段階Nystr"om–Schurプリコンディショナが優れた収束特性を示すか。
• RQ5 本手法を用いた場合、プリコンディショニングされた系の期待スペクトル条件数に対して、どのような理論的保証を提供できるか。

主な発見

• 提案された二段階Nystr"om–Schurプリコンディショナは、特にスペクトル条件数が高い大規模で悪条件なSPD系において、共役勾配法の収束を顕著に改善する。
• ブロック共役勾配法を用いて内側のシュール補行列系を緩い許容誤差（例：10^-2）で解くことで、最小限のコストで高品質なプリコンディショナが得られ、PCG反復回数が低く抑えられていることが実験で確認された。
• 71個のSPD行列（n は5Kから100Kの範囲）のテストセットにおいて、Nystr"om–SchurプリコンディショナのM2バージョンは、困難な問題ではHSL_MI28と同等の反復回数を達成し、eS1を上回る性能を示した。性能プロファイルは、強い頑健性を示している。
• 本手法により、プリコンディショニングされた系の期待スペクトル条件数にユーザー定義の上界を設定でき、収束行動に対する理論的信頼性が得られた。
• 数値実験では、プリコンディショナ構築コストが非常に低く抑えられており、例として bcsstk38 では46回のPCG反復、ela2d では72回のPCG反復で済んだ。実用的効率性が実証された。
• 性能プロファイル解析により、Nystr"om–Schurプリコンディショナは、一段階法が失敗するような問題においても、HSL_MI28 と同等またはそれ以上の性能を示し、広範な問題にわたって優れた性能を発揮することがわかった。