[論文レビュー] Numerically Stable Variants of the Communication-hiding Pipelined Conjugate Gradients Algorithm for the Parallel Solution of Large Scale Symmetric Linear Systems

Siegfried Cools, Wim Vanroose|arXiv (Cornell University)|Jun 19, 2017

Matrix Theory and Algorithms参考文献 36被引用数 3

ひとこと要約

本稿では、大規模な対称正定値線形方程式系を解くために、通信隠しパイプライン化された共役勾配法（p-CG）の数値的に安定した変種を提案する。主要な補助変数再帰式を、行列 $A - \sigma I$ のシフト行列を用いて再定式化することにより、局所的丸め誤差の増幅を抑制し、古典的CGと同等の精度を回復させる。同時に、同期のボトルネックを低減することで、高い並列スケーラビリティを維持する。

ABSTRACT

By reducing the number of global synchronization bottlenecks per iteration and hiding communication behind useful computational work, pipelined Krylov subspace methods achieve significantly improved parallel scalability on present-day HPC hardware. However, this typically comes at the cost of a reduced maximal attainable accuracy. This paper presents and compares several stabilized versions of the communication-hiding pipelined Conjugate Gradients method. The main novel contribution of this work is the reformulation of the multi-term recurrence pipelined CG algorithm by introducing shifts in the recursions for specific auxiliary variables. These shifts reduce the amplification of local rounding errors on the residual. The stability analysis presented in this work provides a rigorous method for selection of the optimal shift value in practice. It is shown that, given a proper choice for the shift parameter, the resulting shifted pipelined CG algorithm restores the attainable accuracy and displays nearly identical robustness to local rounding error propagation compared to classical CG. Numerical results on a variety of SPD benchmark problems compare different stabilization techniques for the pipelined CG algorithm, showing that the shifted pipelined CG algorithm is able to attain a high accuracy while displaying excellent parallel performance.

研究の動機と目的

• 通信隠しパイプライン化CG法における局所的丸め誤差の増幅に起因する精度低下を是正すること。
• 有限精度算術において、古典的CGと同等の精度を達成する数値的に安定したパイプライン化CGの変種を開発すること。
• マルチ項再帰に基づくパイプライン化CGにおける誤差伝播を制御するための最適なシフトパラメータ $\sigma$ の選定フレームワークを提供すること。
• 安定化手法が、最小限のaxpy演算を追加するにとどまり、追加の計算コストを導入しない範囲で、高い並列性能を維持することを示すこと。

提案手法

• パイプライン化CGにおける補助変数のマルチ項再帰式を、再帰関係においてシステム行列 $A$ をシフト行列 $(A - \sigma I)$ に置き換えることで再定式化する。
• 局所的丸め誤差の増幅を制御するためのシフトパラメータ $\sigma$ を導入する。
• 局所的丸め誤差伝播行列に基づく安定性解析を導出し、最適な $\sigma$ 値の選定を支援する。
• ドット積の値 $\alpha_i$ と $\beta_i$ から得られる事後的誤差伝播行列推定値を用いて、実用的な $\sigma$ の決定を行う。
• 最小限の追加演算（axpyステップのみ）で実装されたシフトパイプライン化CGアルゴリズムを実装し、残差の再代入や反復改善を避ける。
• 正確な算術では古典的CGと同等の結果を得るとともに、有限精度算術でも通信隠しの利点とパイプライン化の利点を保持する。

実験結果

リサーチクエスチョン

• RQ1 パイプライン化CGにおける精度の損失は、通信隠しや並列スケーラビリティを犠牲にすることなく是正可能か？
• RQ2 シフトパラメータ $\sigma$ の選択が、パイプライン化CGアルゴリズムにおける局所的丸め誤差の伝播に与える影響は何か？
• RQ3 古典的CGと同等の精度を回復するための最適な $\sigma$ 値を体系的に選択する方法は存在するか？
• RQ4 シフトパイプライン化CG法は、古典的CGと同等の丸め誤差伝播へのロバストネスを維持するか？

主な発見

• 2次元ポアソン問題において、シフトパイプライン化CG法は残差ノルム $9.6 \times 10^{-12}$ を達成し、古典的CGの精度 $9.4 \times 10^{-12}$ と同等であった。
• 20ノードで約2.7秒でこの高い精度を達成し、古典的CGに比べて $4\times$ の高速化を達成した。
• 強化スケーリング実験では、古典的CGは4ノードを超えてスケーリングが著しく低下するが、パイプライン化バージョン（包括してシフト版）は20ノードまでスケーリング可能で、約 $8\times$ の高速化を示した。
• 安定化された p-CG-rr および p-CG-sh の変種は、追加のaxpy演算によるわずかな性能低下を示すが、高い精度を維持した。
• 安定性解析により、$\alpha_i$ と $\beta_i$ の値から導かれる誤差伝播行列に基づく $\sigma$ の選定法が明確に示された。
• 数値実験により、最適な $\sigma$ を用いることで、シフトパイプライン化CGが古典的CGとほぼ同等の丸め誤差伝播へのロバストネスを達成することが確認された。