[論文レビュー] High Performance Block Incomplete LU Factorization

Matthias Bollhöfer, Olaf Schenk+1 more|arXiv (Cornell University)|Aug 27, 2019

Matrix Theory and Algorithms被引用数 3

ひとこと要約

本稿では、可変サイズのブロッキングと密行列カーネル（例：レベル3 BLAS/LAPACK）を活用することで、スパース線形システムの前処理を劇的に高速化する高性能ブロック不完全LU（BILU）因子分解を提示する。行列を初期段階でブロックに再編集し、因子分解中にブロック構造を動的に調整することで、スカラ型ILUに比べて性能向上が数個のオーダーにのぼり、直接解法器（例：MA57）に近い効率を実現しながら、対称不確定問題に対しても安定性を維持する。

ABSTRACT

Many application problems that lead to solving linear systems make use of preconditioned Krylov subspace solvers to compute their solution. Among the most popular preconditioning approaches are incomplete factorization methods either as single-level approaches or within a multilevel framework. We will present a block incomplete factorization that is based on skillfully blocking the system initially and throughout the factorization. This approach allows for the use of cache-optimized dense matrix kernels such as level-3 BLAS or LAPACK. We will demonstrate how this block approach outperforms the scalar method often by orders of magnitude on modern architectures, paving the way for its prospective use inside various multilevel incomplete factorization approaches or other applications where the core part relies on an incomplete factorization.

研究の動機と目的

• 現代のアーキテクチャにおいてスカラ型不完全LU因子分解の性能ボトルネックを解消すること。
• 計算効率を向上させるために密行列演算を活用するブロック構造のILU法を開発すること。
• 適応的ブロック分割と対角優勢性の向上により、満たしを低減し、数値的安定性を向上させること。
• 因子分解段階および反復解法段階の両方において、MA57のような高性能直接解法器と同等の性能を示すことを実証すること。
• マルチレベル前処理フレームワークへのブロックILUの統合に向けた基盤を構築すること。

提案手法

• 初期段階で、消去木に基づいて事前的なブロック分割を実施し、密な部分構造を特定する。
• 因子分解中にブロックを動的に集約・再編成することで、数値的安定性と性能を維持する。
• データローカリティとキャッシュ効率を活用するため、密な部分行列に対してレベル3 BLASおよびLAPACKカーネルを用いる。
• 対称不確定系に対しては、コサインベースの圧縮と対称化ピボット選択を組み合わせた、対称的に前処理されたブロックLDLT因子分解（BILDL）を用いる。
• ブロック内ではしきい値に基づく要素削除を実施し、局所的な条件数に応じて1×1および2×2ピボットの処理戦略を適応的に変更する。
• ブロック構造の最適化をさらに図るため、圧縮グラフに対して性能指向の再順序付けおよび圧縮戦略を適用する。

実験結果

リサーチクエスチョン

• RQ1 可変サイズのブロック構造を用いた不完全因子分解は、現代のアーキテクチャにおいてスカラ型ILUを上回る計算速度を達成できるか？
• RQ2 密行列カーネルは、スパース線形システムにおける不完全因子分解の性能をどの程度向上できるか？
• RQ3 動的ブロック集約は、満たしの低減と数値的安定性の維持にどの程度効果的か？
• RQ4 ブロックILUは、対称不確定問題においてMA57のような直接解法器と同等の性能を達成できるか？
• RQ5 前処理反復解法におけるさまざまなドロップ許容誤差に対して、ブロックアプローチはどのようにスケーリングするか？

主な発見

• レベル3 BLASと密行列カーネルを効果的に活用することで、現代のアーキテクチャ上でのブロックILU法はスカラ型ILUに比べて数個のオーダーの性能向上を達成する。
• 対称不確定問題においては、BILDLバージョンが小さなドロップ許容誤差においても直接解法器MA57と同等の性能を示し、特に反復解法のコストを含めた総合的な観点から顕著である。
• SQMRを含む反復解法の合計計算時間から、ブロック構造のアプローチがスカラ型ILUを著しく上回ることが、パフォーマンスプロファイルによって確認された。
• 小さなドロップ許容誤差において、ブロックILUのメモリ消費量はMA57に近く、満たしの低減と効率的なストレージを示している。
• 因子分解段階だけでなく、全体の解法プロセスにおいても高い性能を発揮し、ロバスト性とスケーラビリティを示している。
• 可変サイズのブロックと動的再編成の組み合わせにより、固定またはスカラ型アプローチに比べてより優れた数値的挙動と性能が実現されている。