[論文レビュー] Fast hierarchical solvers for sparse matrices

Hadi Pouransari, Pieter Coulier+1 more|arXiv (Cornell University)|Oct 26, 2015

Matrix Theory and Algorithms被引用数 3

ひとこと要約

本稿では、階層的低ランク構造を用いたLU分解の近似により、線形計算量と調整可能な精度を備えた、完全に代数的なスパース行列ソルバを提案する。この手法は、隣接グラフのwell-separatedなブロックにおけるフィルインの低ランク圧縮を活用し、効率的な直接解法や、GMRESなどの反復法におけるブラックボックスプリコンディショナとしての利用を可能にする。

ABSTRACT

Sparse linear systems are ubiquitous in various scientific computing applications. Inversion of sparse matrices with standard direct solve schemes are prohibitive for large systems due to their quadratic/cubic complexity. Iterative solvers, on the other hand, demonstrate better scalability. However, they suffer from poor convergence rates when used without a preconditioner. There are many preconditioners developed for different problems, such as ILU, AMG, Gauss-Seidel, etc. The choice of an effective preconditioner is highly problem dependent. We propose a novel fully algebraic sparse matrix solve algorithm, which has linear complexity with the problem size. Our scheme is based on the Gauss elimination. For a given matrix, we approximate the LU factorization with a tunable accuracy determined a priori. This method can be used as a stand-alone direct solver with linear complexity and tunable accuracy, or it can be used as a black-box preconditioner in conjunction with iterative methods such as GMRES. The proposed solver is based on the low-rank approximation of fill-ins generated during the elimination. Similar to H-matrices, fill-ins corresponding to blocks that are well-separated in the adjacency graph are represented via a hierarchical structure.

研究の動機と目的

• スパース線形方程式系の直接解法が問題サイズに比例して二次または三次的に増加する高コストを解消すること。
• 反復解法の収束性の悪さを克服するため、調整可能な精度を備えた、問題に依存しない強固なプリコンディショナを開発すること。
• 事前誤差境界を用いて精度制御が可能な線形計算量の直接解法を設計すること。
• ガウスの消去法におけるフィルインの階層的低ランク近似を用いて、スパース線形方程式系の効率的解法を実現すること。
• 問題特化の調整を必要とせず、GMRESなどの反復法と互換性があるブラックボックスプリコンディショナを提供すること。

提案手法

• 本手法は、ガウスの消去法中に生成されるフィルイン要素の階層的低ランク圧縮を用いて、スパース行列のLU分解を近似する。
• 隣接グラフ構造を活用してwell-separatedなブロックを特定し、そのフィルインを低ランク行列として扱うことで、記憶容量と計算量を削減する。
• 事前誤差制御のための調整可能な精度閾値を用いて、LU分解における近似誤差を制御する。
• 階層的構造はH行列技術を模倣し、グラフ上の分離に基づいて再帰的にブロックを分割し、低ランク圧縮を適用する。
• 本ソルバは、スタンドアロンで直接解法として使用可能であり、GMRESなどのKrylov部分空間反復法におけるプリコンディショナとしても利用可能である。
• 本手法は、フィルインを低ランク近似で圧縮しつつも、スパarsityパターンを維持することで数値的安定性を保つ。

実験結果

リサーチクエスチョン

• RQ1 完全に代数的なスパース行列ソルバが、線形計算量を達成しながらも調整可能な精度を維持できるか？
• RQ2 フィルインの階層的低ランク近似が、スパースLU分解における計算コストをどの程度削減できるか？
• RQ3 提案手法が、GMRESのような反復法の有効なブラックボックスプリコンディショナとしてどの程度機能するか？
• RQ4 本手法が、問題特化の調整を必要とせず、多様なスパース行列問題においても精度を維持できるか？
• RQ5 提案された近似スキームにおいて、精度と計算効率のトレードオフはどのようなものか？

主な発見

• 提案されたソルバは、問題サイズに対して線形計算量を達成しており、標準的な直接解法に比べて計算コストで顕著に優れている。
• 事前誤差制御を用いた調整可能な精度が実現され、ユーザーが速度と精度のバランスをとれる。
• フィルインの階層的低ランク近似により、消去法中のメモリ使用量と計算時間が両方削減された。
• GMRESにおけるプリコンディショナとしての性能が強く、反復法の収束を高速化した。
• 本手法は完全に代数的であり、問題特化の知識を必要とせず、スパース行列の種別に広く適用可能である。
• 従来の直接解法が立方計算量のため実行不可能となるような大規模システムに対しても、本手法は効率的にスケーリングできる。