[論文レビュー] Recent implementations, applications, and extensions of the Locally Optimal Block Preconditioned Conjugate Gradient method (LOBPCG)

Andrew Knyazev|arXiv (Cornell University)|Jan 1, 2017

Matrix Theory and Algorithms参考文献 5被引用数 4

ひとこと要約

この論文は、大規模な対称固有値問題におけるスケーラブルで安定的かつ効率的な固有値ソルバーである、局所最適ブロック予条件付き共役勾配法（LOBPCG）の最近の実装、応用、拡張についてレビューする。LOBPCGは、材料科学、データマイニング、計算物理学など多様な分野で使用されており、ブロックバージョン、GPUアクセceleration、非線形およびテンソル構造問題への拡張といった革新が紹介されている。

ABSTRACT

Since introduction [A. Knyazev, Toward the optimal preconditioned eigensolver: Locally optimal block preconditioned conjugate gradient method, SISC (2001) DOI:10.1137/S1064827500366124] and efficient parallel implementation [A. Knyazev et al., Block locally optimal preconditioned eigenvalue xolvers (BLOPEX) in HYPRE and PETSc, SISC (2007) DOI:10.1137/060661624], LOBPCG has been used is a wide range of applications in mechanics, material sciences, and data sciences. We review its recent implementations and applications, as well as extensions of the local optimality idea beyond standard eigenvalue problems.

研究の動機と目的

• 科学計算およびデータサイエンス分野におけるLOBPCGの最近の実装および応用を要約すること。
• 標準的な対称固有値問題を超えた局所最適性原理の拡張を検討すること。
• LOBPCGがハイパフォーマンスコンピューティングスタックおよび生産ソフトウェアにおいて果たす役割を評価すること。
• 大規模ブロックサイズにおける直交化およびレイリーグィッツコストを低減するための未解決課題を特定すること。

提案手法

• 現在の反復解、残差、および以前の反復解が張る部分空間上でレイリー商を最小化するため、局所的に最適な探索方向を有するブロッククリロフ部分空間法を活用する。
• 収束を加速しながら安定性を維持するため、対称正定値または変数予条件子による予条件付けを用いる。
• ブロック形式によるBLAS 3最適化された行列-行列演算を用いて並列性能を向上させる。
• 数値的不安定性を避けるために、反復のたびに固有ベクトルの近似を維持するためのウォームスタートを実装する。
• 多様体予条件付けおよび階層的ツッカー形式を用いて、非線形ヘルミート固有値問題およびテンソル構造問題へのLOBPCGの拡張を行う。
• 内部固有値問題の解法と直交化コストを低減した並列実行を可能にするため、FS-LOBPCG（フォールドスペクトルLOBPCG）およびLOBPCG IIを導入する。

実験結果

リサーチクエスチョン

• RQ1 大規模固有値問題において、LOBPCGはランチョス法と比較してどのように線形収束性と数値的安定性を維持しているか？
• RQ2 ブロックおよび予条件付きLOBPCGの変種は、HPC環境における性能およびスケーラビリティをどのように向上させているか？
• RQ3 LOBPCGを大規模ブロックサイズにスケーリングする際の主な課題は何であり、直交化およびレイリーグィッツ手続きをどのように低減できるか？
• RQ4 LOBPCGの拡張は、非線形固有値問題、テンソル構造問題、および量子化学分野での応用をどのように可能にしたか？
• RQ5 LOBPCGは、PETSc、hypre、およびABINITなどの主要な科学的ソフトウェアスタックにおいて、どのように役立っているか？

主な発見

• LOBPCGは、特にABINITおよび関連ソフトウェアにおいて、密度汎関数理論（DFT）電子構造計算の標準的手法として採用されている。
• LOBPCGは、PETSc、hypre、Anasazi/Trilinosなどの主要HPCソフトウェアスタックでネイティブにサポートされており、OpenHPCにも事前パッケージ化されている。
• MAGMA、AmgX、ABINITにおけるGPUアクセcelerated LOBPCG実装は、現代の異種アーキテクチャにおいて高い性能を示している。
• FS-LOBPCGおよびLOBPCG IIなどの拡張は、内部固有値の効率的計算と直交化コストを低減した並列実行を可能にしている。
• TTおよび階層的ツッカー形式を用いたテンソル構造のLOBPCG変種は、高次元多体シュレーディンガー方程式の解法を可能にした。
• 広範な採用にもかかわらず、大規模ブロックサイズにおける直交化およびレイリーグィッツ手続きの計算コストを低減する問題は未解決のままである。