[論文レビュー] Hybrid MPI-OpenMP Paradigm on SMP Clusters: MPEG-2 Encoder and N-Body Simulation

Truong Vinh Truong Duy, Katsuhiro Yamazaki+2 more|arXiv (Cornell University)|Nov 10, 2012

Parallel Computing and Optimization Techniques参考文献 6被引用数 8

ひとこと要約

本論文では、SMPクラスタ上での分散メモリ（MPI）および共有メモリ（OpenMP）並列処理を活用するハイブリッドMPI-OpenMPプログラミングモデルを提案する。n-bodyシミュレーションでは純粋なMPIに比べ1.52倍のスループット向上を達成し、MPEG-2エンコーディングでは18%の性能向上を実現した。これは、階層的データ分割とOpenMPスケジューリングによる動的負荷分散のおかげである。

ABSTRACT

Clusters of SMP nodes provide support for a wide diversity of parallel programming paradigms. Combining both shared memory and message passing parallelizations within the same application, the hybrid MPI-OpenMP paradigm is an emerging trend for parallel programming to fully exploit distributed shared-memory architecture. In this paper, we improve the performance of MPEG-2 encoder and n-body simulation by employing the hybrid MPI-OpenMP programming paradigm on SMP clusters. The hierarchical image data structure of the MPEG bit-stream is eminently suitable for the hybrid model to achieve multiple levels of parallelism: MPI for parallelism at the group of pictures level across SMP nodes and OpenMP for parallelism within pictures at the slice level within each SMP node. Similarly, the work load of the force calculation which accounts for upwards of 90% of the cycles in typical computations in the n-body simulation is shared among OpenMP threads after ORB domain decomposition among MPI processes. Besides, loop scheduling of OpenMP threads is adopted with appropriate chunk size to provide better load balance of work, leading to enhanced performance. With the n-body simulation, experimental results demonstrate that the hybrid MPI-OpenMP program outperforms the corresponding pure MPI program by average factors of 1.52 on a 4-way cluster and 1.21 on a 2-way cluster. Likewise, the hybrid model offers a performance improvement of 18% compared to the MPI model for the MPEG-2 encoder.

研究の動機と目的

• SMPクラスタ上での計算集約的科学的およびマルチメディアワークロードの性能を、MPIとOpenMPのパラダイムを統合することで向上させること。
• 純粋なMPI実装における負荷不均衡とリソースの非効率的利用を、ハイブリッド並列化によって是正すること。
• MPEG-2エンコーディングやn-bodyシミュレーションなどのデータ並列アプリケーションにおける複数レベルの並列性を活用すること。
• 異なるクラスタ構成を用いて、実世界のワークロードにおけるハイブリッドMPI-OpenMPの有効性を評価すること。

提案手法

• MPEG-2エンコーディングではグループ・オブ・ピクチャーズ（GoP）レベル、n-bodyシミュレーションではドメイン分割レベルでMPIを用いてノード間並列処理を実現する。
• MPEG-2ではスライスレベル、n-bodyシミュレーションでは力計算ドメイン内でOpenMPを用いてノード内並列処理を実現する。
• スレッド間の作業負荷をバランスさせるために、最適化されたチャンクサイズを用いた動的ループスケジューリングをOpenMPに適用する。
• n-body問題に対して、MPIプロセス間でORBIT（軌道ベース）ドメイン分割を適用し、各ドメイン内でOpenMPが力計算を処理する。
• MPEG-2エンコーディングにおいて階層的データ構造を実装し、SMPノード間（MPI）およびノード内（OpenMP）のマルチレベル並列処理を可能にする。
• 2ウェイおよび4ウェイSMPクラスタ上で、ハイブリッドMPI-OpenMPと純粋なMPI実装を比較して、性能向上を測定する。

実験結果

リサーチクエスチョン

• RQ1 SMPクラスタ上でのn-bodyシミュレーションにおいて、ハイブリッドMPI-OpenMPモデルは純粋なMPIに比べてどの程度性能を向上させるか？
• RQ2 マルチレベル並列化を通じて、ハイブリッドモデルはMPEG-2エンコーディングの性能をどの程度向上させるか？
• RQ3 適応的チャンクサイズを用いたOpenMPループスケジューリングは、ハイブリッドモデルにおける負荷不均衡低減にどのような役割を果たすか？
• RQ4 ORBドメイン分割とOpenMPスレーディングを組み合わせることで、n-bodyシミュレーションにおけるスケーラブルな性能はどの程度達成できるか？
• RQ5 SMPクラスタ上での実世界アプリケーションにおいて、ハイブリッドMPI-OpenMPパラダイムはどの程度の性能向上を実現できるか？

主な発見

• ハイブリッドMPI-OpenMP実装は、4ウェイSMPクラスタ上でのn-bodyシミュレーションで、純粋なMPIに比べ平均1.52倍のスループット向上を達成した。
• 2ウェイSMPクラスタ上では、n-bodyシミュレーションワークロードでハイブリッドモデルが純粋なMPIに比べ1.21倍のスループット向上を達成した。
• MPEG-2エンコーディングでは、ハイブリッドモデルが純粋なMPIバージョンに比べ18%の性能向上を実現した。
• 適切なチャンクサイズを用いた動的OpenMPループスケジューリングは、負荷バランスの向上に顕著な寄与をし、性能向上に貢献した。
• MPEG-2エンコーディングにおける階層的データ構造により、ノード間（MPI）およびノード内（OpenMP）の並列処理の効果的活用が可能になった。
• 異なるクラスタ構成においても、ハイブリッドモデルは一貫した性能向上を示し、スケーラビリティと効率性の妥当性が裏付けられた。