[論文レビュー] An Error-Resilient Redundant Subspace Correction Method

Tao Cui, Jinchao Xu+1 more|arXiv (Cornell University)|Sep 1, 2013

Matrix Theory and Algorithms参考文献 38被引用数 4

ひとこと要約

本論文は、検出可能なエラー下でも収束を維持できる反復線形ソルバーを可能にする、冗長部分空間補正（RSC）手法を提案する。この手法は、1つのプロセッサが故障しても収束を保証する冗長部分空間射影を用いる。計算オーバーヘッドは最小限で、通信コストも低いため、エクサスケールシステムにおける平均故障間隔（MTTF）を顕著に向上させる。

ABSTRACT

As we stride toward the exascale era, due to increasing complexity of supercomputers, hard and soft errors are causing more and more problems in high-performance scientific and engineering computation. In order to improve reliability (increase the mean time to failure) of computing systems, a lot of efforts have been devoted to developing techniques to forecast, prevent, and recover from errors at different levels, including architecture, application, and algorithm. In this paper, we focus on algorithmic error resilient iterative linear solvers and introduce a redundant subspace correction method. Using a general framework of redundant subspace corrections, we construct iterative methods, which have the following properties: (1) Maintain convergence when error occurs assuming it is detectable; (2) Introduce low computational overhead when no error occurs; (3) Require only small amount of local (point-to-point) communication compared to traditional methods and maintain good load balance; (4) Improve the mean time to failure. With the proposed method, we can improve reliability of many scientific and engineering applications. Preliminary numerical experiments demonstrate the efficiency and effectiveness of the new subspace correction method.

研究の動機と目的

• エクサスケールスーパーコンputィングにおけるハードウェアおよびソフトエラーの増加する課題に対処し、信頼性とシステム稼働時間に悪影響を及ぼすのを防ぐ。
• 大規模なPDEシミュレーションに不可欠な反復線形ソルバーの故障耐性を、高い計算コストや通信コストを伴わず向上させる。
• エラー発生時でも収束を維持できる、スケーラブルでアルゴリズムレベルのソリューションを構築する。
• エラーがない状況でも性能劣化を最小限に抑えながら、良好な負荷分散と低コストのポイントツーポイント通信を維持する。
• アルゴリズムレベルでの冗長性統合により、科学的アプリケーションの平均故障間隔（MTTF）を向上させる。

提案手法

• 加法的シュワーツ法および部分空間補正法に基づき、一般化された冗長部分空間補正（RSC）のフレームワークを形式化する。
• エラー発生時でも収束を維持できる、逐次的冗長部分空間補正（SRSC）手法を構築する。
• 前提条件 $ B_{\text{SRSC}} $ を定義し、$ \|I - B_{\text{SRSC}}A\|_A \leq \|I - B_{\text{SSC}}A\|_A $ を満たすことで、エラー下でも収束を保証する。
• 2つの不完全部分空間補正前提条件（$ B_{\text{PSC}}^c $ および $ \tilde{B}_{\text{PSC}}^c $）の乗法的組み合わせを用いて、冗長前提条件 $ B_{\text{PRSC}} $ を構成し、耐障害性を向上させる。
• 領域分割と重複部分領域を活用し、局所的通信とバランスの取れた作業分配を実現する並列計算を可能にする。
• メッシュ分割にMETISを用いた有限要素離散化を用いて、ポアソン方程式、マクスウェル方程式、弾性方程式といった標準的なPDEに本手法を適用する。

実験結果

リサーチクエスチョン

• RQ1 ハードウェアまたはソフトエラーが計算中に発生した場合、冗長部分空間補正手法は反復線形ソルバーの収束を維持できるか？
• RQ2 エラーが発生しない状況下での本手法の計算オーバーヘッドはどの程度で、標準的手法と比較して最小限に抑えられるか？
• RQ3 大規模並列システムにおいて、本手法は伝統的な部分空間補正と比較して通信コストと負荷分散にどのような差異を示すか？
• RQ4 エクサスケールHPC環境において、本手法は平均故障間隔（MTTF）をどの程度向上させるか？
• RQ5 本手法は、性能劣化を引き起こさずに、実世界のPDEベースの科学的シミュレーションに効果的に適用可能か？

主な発見

• 冗長部分空間補正（RSC）手法は、エラー発生時でも収束を維持し、収束率が標準的部分空間補正（SSC）手法の上限で制限される：$ \|I - B_{\text{SRSC}}A\|_A \leq \|I - B_{\text{SSC}}A\|_A $。
• エラーなしの状況では、収束率が2つのSSC率の積で制限される：$ \|I - B_{\text{SRSC}}A\|_A \leq \|I - B_{\text{SSC}}A\|_A \cdot \|I - \tilde{B}_{\text{SSC}}A\|_A $、これにより安定性が保証される。
• 理論的分析により、理想条件下では標準SSC手法よりも2倍速く収束することが示された。
• 本手法はわずかな局所的通信しか必要とせず、大規模システムにおいて良好な負荷分散とスケーラビリティを維持する。
• ポアソン方程式、マクスウェル方程式、弾性方程式に対する初期数値実験により、エラーなしおよびエラー発生時の両方で本手法の効率性と有効性が確認された。
• 少なくとも1つの冗長ペア内に1つのプロセッサが正常に稼働していれば、複数のプロセッサが故障しても本手法は耐障害性を示し、強力な故障耐性を有する。