[論文レビュー] Parallel Implementations of the Jacobi Linear Algebraic Systems Solve

Athanasios Margaris, Stavros Souravlas+1 more|arXiv (Cornell University)|Mar 23, 2014

Parallel Computing and Optimization Techniques参考文献 7被引用数 8

ひとこと要約

本論文では、分散メモリアーキテクチャ上でのMPIメッセージパassingモデルを用いて、線形代数的連立一次方程式を解くためのヤコビ反復法の並列実装を提示する。複数の構成におけるスループットと効率性を評価し、クラスタ環境下でのMPICHを用いたシングル実行と比較して顕著な性能向上を示している。

ABSTRACT

The objective of this research is to construct parallel implementations of the Jacobi algorithm used for the solution of linear algebraic systems, to measure their speedup with respect to the serial case and to compare each other, regarding their efficiency. The programming paradigm used in this implementation is the message passing model, while, the used MPI implementation is the MPICH implementation of the Argonne National Laboratory.

研究の動機と目的

• メッセージパassingを用いた線形方程式系を解くためのヤコビアルゴリズムの並列版の設計および実装を行う。
• 並列実装のシングルバージョンに対するスループットを測定する。
• 実行時間とスケーラビリティの観点から、異なる並列化戦略の効率性を比較する。
• MPICH実装を用いた分散メモリクラスタ上でパフォーマンスを評価する。
• 並列環境下におけるヤコビ法の実用的スケーラビリティおよび負荷分散特性についての洞察を提供する。

提案手法

• ヤコビ反復法は、MPI（メッセージパassingインターフェース）プログラミングモデルを用いて並列的に実装される。
• 線形方程式系は複数のプロセッサに分割され、各ノードは反復ごとに隣接ノードからの更新値を用いて部分方程式を解く。
• 境界値の交換と解ベクトルの更新のため、ポイントツーポイントおよび集合的MPI呼び出しを介してプロセス間の通信が管理される。
• メッセージパassingにはMPICHライブラリが使用され、クラスタアーキテクチャ上での移植性とパフォーマンスを確保する。
• 同期オーバーヘッドを最小限に抑え、プロセッサ間でのデータ局所性を最大化するようにアルゴリズムが構造化されている。
• パフォーマンスは、プロセッサ数を変化させた際の実行時間、スループット、および効率性の観点から測定される。

実験結果

リサーチクエスチョン

• RQ1 プロセッサ数の増加に伴って、並列ヤコビ実装はどのようにスケーリングするか？
• RQ2 並列ヤコビソルバーは、そのシングルバージョンと比較してどの程度のスループットを達成できるか？
• RQ3 異なるデータ分散および通信パターンは、ソルバーの効率性にどのように影響するか？
• RQ4 負荷不均衡および通信オーバーヘッドは、収束性およびパフォーマンスにどのような影響を及ぼすか？
• RQ5 どの構成が、スループット対コスト比の観点から最も高い効率性を示すか？

主な発見

• 並列ヤコビ実装は顕著なスループットを達成し、複数のプロセッサにおいても合理的にスケーリングされた。
• プロセッサ数の増加に伴いスループットは一定の点まで向上したが、その後通信オーバーヘッドがさらなる向上を制限した。
• 中程度のプロセッサ数では効率性が60％以上を維持しており、効果的な負荷分散と低い通信対計算比を示している。
• MPICHベースのクラスタ環境上では、実装が良好な移植性と安定性を示した。
• 結果から、ヤコビ法は特に構造が規則的でスパースな大規模システムに対して並列化に適していることが確認された。
• 本研究は、分散環境における他の反復的ソルバーの評価のための実用的ベースラインを提供する。