[論文レビュー] Parallel Implementations of the Split-Step Fourier Method for Solving Nonlinear Schrödinger Systems

Scott M. Zoldi, V. P. Ruban+2 more|ArXiv.org|Nov 14, 1997

Optical Network TechnologiesEngineering参考文献 12被引用数 20

ひとこと要約

本論文は、1次元FFTの2次元行列分解を用いて、共有メモリおよび分散メモリアーキテクチャ上で非線形シュレーディンガー方程式（NLSE）を解くための並列化されたスプリットステップフーリエ（SSF）法の実装を提示している。SGI/Cray Origin 200では通信オーバーヘッドを最小限に抑え、データ局所性を最適化することで、大規模な問題サイズにおいて4プロセッサで最大3.4倍のスループット向上を達成した。

ABSTRACT

We present a parallel version of the well-known Split-Step Fourier method (SSF) for solving the Nonlinear Schrödinger equation, a mathematical model describing wave packet propagation in fiber optic lines. The algorithm is implemented under both distributed and shared memory programming paradigms on the Silicon Graphics/Cray Research Origin 200. The 1D Fast-Fourier Transform (FFT) is parallelized by writing the 1D FFT as a 2D matrix and performing independent 1D sequential FFTs on the rows and columns of this matrix. We can attain almost perfect speedup in SSF for small numbers of processors depending on both problem size and communication contention. The parallel algorithm is applicable to other computational problems constrained by the speed of the 1D FFT.

研究の動機と目的

• 波導光学におけるWDMおよび分散マネージド系のための、大規模NLSEシミュレーションにおける計算ボトルネックを解消すること。
• 高分解能のシミュレーションに必要な多数のフーリエモードを要する場合に、シングルスレッド版SSF実装が著しく遅くなるという制限を克服すること。
• 1次元FFT性能に制限されるシステムに適用可能な、スケーラブルな並列SSFアルゴリズムを開発すること。
• 通信コストを最小限に抑え、共有メモリおよび分散メモリモデルにおけるデータ局所性を向上させることで、マルチプロセッサワークステーションでのパフォーマンスを最適化すること。

提案手法

• 1次元FFTを2次元行列演算に再定式化し、各行および各列に対する独立した1次元FFTを並列化可能にする。
• SGI/Cray Origin 200上で、共有メモリ（OpenMP風ディレクティブ）および分散メモリ（MPI）パラダイムの両方を用いてSSFアルゴリズムを実装する。
• 計算ステージ中にキャッシュ局所性を向上させるために、分散メモリにおける静的データ分割を採用し、通信競合を低減する。
• プロセッサに割り当てるサブアレイを分割することで負荷分散を実現し、データ独立性を維持するためにMPIで明示的なデータ再配置を実施する。
• 計算利得と通信コストのバランスを取るために、問題サイズおよびプロセッサ数のチューニングによりパフォーマンスを最適化する。
• ベンダーオプティマイズ済み1次元FFTライブラリおよびサブアレイ処理を活用し、L1キャッシュ利用率を向上させ、転置オーバーヘッドを削減する。

実験結果

リサーチクエスチョン

• RQ1 SSFにおける計算ボトルネックである1次元FFTを、2次元行列分解を用いて効果的に並列化し、高いスループット向上を達成できるか？
• RQ2 共有メモリと分散メモリの両実装における並列SSFのスループットは、問題サイズおよびプロセッサ数にどのように依存するか？
• RQ3 共有メモリSSFにおける通信量とデータ競合は、分散メモリSSFにおける静的データ分割と比較して、スループットにどのような影響を与えるか？
• RQ4 大規模NLSEシミュレーションにおいて、並列SSFアルゴリズムがどの程度近似完璧なスループット向上を達成できるか？
• RQ5 提案された並列化戦略は、1次元FFTに依存する他の数値アルゴリズムへ一般化可能か？

主な発見

• 分散メモリ（MPI）実装では、N=2^18およびS=125ステップで4プロセッサを使用した場合、最大3.4倍のスループット向上を達成した。T_4pr = 26.8秒、T_1pr = 92.4秒であった。
• 共有メモリ実装では、N=2^16およびS=500ステップで4プロセッサを使用した場合、最大2.7倍のスループット向上を達成した。T_4pr = 20.1秒、T_1pr = 59.4秒であった。
• 分散モデルでは、問題サイズが増加するにつれて、プロセッサ1つあたりの通信量が減少し、静的配布によるデータ局所性の向上によりスループットが向上する。
• 共有メモリモデルでは、動的サブアレイ割り当てとプロセッサ間のデータ共有が原因で競合が増加し、スケーラビリティが制限される。
• 並列SSFアルゴリズムは、単一プロセッサ上でも、キャッシュ利用率の向上と転置ステージの削除により、最適化された逐次1次元FFTよりも10～20％のスループット向上を達成している。
• 特に分散メモリモデルでは、静的データパーティショニングにより通信コストを最小限に抑えられるため、問題サイズおよびプロセッサ数を適切にチューニングすることで、ほぼ完璧なスループット向上が達成可能である。