[論文レビュー] Mathematics and implementation details of a block MINRES algorithm

Kirk M. Soodhalter|arXiv (Cornell University)|Jan 10, 2013

Matrix Theory and Algorithms被引用数 1

ひとこと要約

本稿では、1回の反復で1つの基底ベクトルを生成するバンド・ランコーズ過程を用いた、対称不確定行列のためのブロックMINRESアルゴリズムを提示する。この手法により、通信最適化されたブロック演算が効率的に行え、スカラ値を用いた簡単で堅牢なブレイクダウン検出が可能になる。ブロックサイズは、線形従属となったベクトルを事前に生成したランダムベクトルに置き換えることで維持され、高性能コンputング環境における性能向上が図られる。

ABSTRACT

We develop a block minimum residual (MINRES) algorithm for symmetric indefinite matrices. This version is built upon the band Lanczos method that generates one basis vector of the block Krylov subspace per iteration rather than a whole block as in the block Lanczos process. However, we modify the method such that the most expensive operations are still performed in a block fashion. The benefit of using the band Lanczos method is that one can detect breakdowns from scalar values arising in the computation, allowing for a handling of breakdown which is straightforward to implement. We derive a progressive formulation of the MINRES method based on the band Lanczos process and give some implementation details. Specifically, a simple reordering of the steps allows us to perform many of the operations at the block level in order to take advantage of communication efficiencies offered by the block Lanczos process. This is an important concern in the context of next-generation super computing applications. We also present a technique allowing us to maintain the block size by replacing dependent Lanczos vectors with pregenerated random vectors whose orthogonality against all Lanczos vectors is maintained. Numerical results illustrate the performance on some sample problems. We present experiments that show how the relationship between right-hand sides can effect the performance of the method.

研究の動機と目的

• 高性能コンピューティング環境において、対称不確定行列を効率的に処理できるブロックMINRESアルゴリズムの開発。
• スカラ値を用いた簡素化された実装を可能にするために、バンド・ランコーズ過程を活用し、ブレイクダウン検出を改善すること。
• 1つのベクトルずつ基底を生成するアプローチを採用しつつも、計算効率を確保するためのブロックレベル演算を維持すること。
• 線形従属となったランコーズベクトルの置き換えによりブロックサイズが低下することを是正するため、すべての以前のベクトルに直交するように事前に生成したランダムベクトルを用いる手法。
• 数値実験を通じて、右辺ベクトル間の関係がアルゴリズムの性能に与える影響を評価すること。

提案手法

• アルゴリズムは、バンド・ランコーズ過程に基づくMINRESの段階的定式化に依拠しており、1反復あたり1つの基底ベクトルを生成する。
• 主要な演算が再構成され、並列アーキテクチャにおける通信効率を向上させるブロックレベル計算が可能になる。
• スカラ値を用いた計算によりブレイクダウンが検出され、簡単で堅牢な処理が可能になる。
• 線形従属となったランコーズベクトルを、すべての以前のランコーズベクトルに直交するように事前に生成したランダムベクトルに置き換える技術が導入される。
• 置き換えベクトルが全Krylov部分空間基底に対して直交性を保つことで、数値的安定性が確保される。
• データ移動を最小限に抑え、ブロックレベル並列性を最大化することで、次世代スーパーコンピュータ向けに実装が最適化されている。

実験結果

リサーチクエスチョン

• RQ1 対称不確定系に対して、効率的で堅牢なブロックMINRES手法をどのように設計できるか？
• RQ2 ブロックKrylov文脈において、1ベクトルずつ基底を生成するバンド・ランコーズ過程を用いる場合、その性能にどのような影響があるか？
• RQ3 複数の右辺ベクトル間の関係は、ブロックMINRES手法の収束性と安定性にどのように影響するか？
• RQ4 直交性を損なわず、計算コストを増加させることなく、効果的なブロックサイズの維持が可能か？
• RQ5 ブロックレベル実行を目的とした演算の再順序化により、通信およびスケーラビリティにどのような利点があるか？

主な発見

• バンド・ランコーズに基づくブロックMINRES手法により、スカラ値のモニタリングによる簡単なブレイクダウン検出が可能となり、実装が簡素化される。
• 多数の計算をブロックレベルで一括処理するように演算を再順序化することで、並列アーキテクチャ上での通信効率が顕著に向上する。
• 線形従属となったランコーズベクトルを事前に生成したランダムベクトルに置き換えることで、ブロックサイズと直交性が維持され、アルゴリズムの安定性が保証される。
• 数値実験により、右辺ベクトル間の関係が収束行動に影響を与えることが示され、特定の設定では収束が速くなるか遅くなることが確認された。
• 最適化されたブロック演算と通信オーバーヘッドの低減により、高性能コンピューティングプラットフォーム上でのスケーラビリティと性能が向上した。