[論文レビュー] Parallel Semi-Implicit Time Integrators

Benjamin Ong, Andrew Melfi+1 more|arXiv (Cornell University)|Sep 19, 2012

Numerical methods for differential equations参考文献 21被引用数 5

ひとこと要約

本稿では、修正版積分遅れ補正（RIDC）法に基づく並列半陰的時間積分法を提案し、複数のGPUを用いて時間依存PDEに対して高次精度（最大4次）を実現する。CUBLASライブラリとOpenMPを活用することで、4つのGPUと4つのCPUを用いた場合、1つのGPUとCPUで1次解を計算するのとほぼ同じウォールクロック時間で4次精度に達する。これは近似的な線形スケーリングと効率的なGPU利用を示している。

ABSTRACT

In this paper, we further develop a family of parallel time integrators known as Revisionist Integral Deferred Correction methods (RIDC) to allow for the semi-implicit solution of time dependent PDEs. Additionally, we show that our semi-implicit RIDC algorithm can harness the computational potential of multiple general purpose graphical processing units (GPUs) in a single node by utilizing existing CUBLAS libraries for matrix linear algebra routines in our implementation. In the numerical experiments, we show that our implementation computes a fourth order solution using four GPUs and four CPUs in approximately the same wall clock time as a first order solution computed using a single GPU and a single CPU.

研究の動機と目的

• 剛性および非剛性PDEに対する高次並列時間積分法の開発。
• 1ノード内での複数GPUを効率的に活用し、時間依存PDEの時間積分を実現すること。
• 4次精度が、1つのGPUでの1次解と同等のウォールクロック時間内に達成可能であることを示すこと。
• 既存のCUBLASライブラリを並列RIDCフレームワークに統合し、複雑なデータ分割を回避すること。
• 従来の空間並列PDEソルバーに、既存コードを変更せずに時間並列性を追加可能なプラグアンドプレイ拡張を提供すること。

提案手法

• 剛性項は陰的に、非剛性項は陽的に扱う、陰陽混合（IMEX）ルンゲ＝クッタ法に基づく半陰的定式化を採用する。
• RIDCフレームワークは、欠損補正プロセスを再定式化し、補正スイープを時間的に遅らせることが可能となり、複数の補正レベルを並列実行可能にする。
• CPUスレーディングにはOpenMP、GPU加速の線形代数演算にはCUDAとCUBLASを用い、特にtrsvおよびgemvカーネルを活用する。
• 時間積分は、各補正ループが別個のGPUまたはCPUコアで実行される構造となっており、遅延時間ステッピングによりデータ依存関係を管理する。
• 密行列線形代数処理に既存のCUBLASライブラリを活用することで、カスタムGPUカーネルや複雑なデータ分割の必要性を回避する。
• 有限差分法による空間離散化と、双曲型項の数値フラックスを用いて、移流拡散方程式および粘性バーガース方程式の両方を対象とする。

実験結果

リサーチクエスチョン

• RQ1 RIDC法を剛性PDEの半陰的時間積分に拡張可能か。高次精度と並列スケーラビリティを維持できるか。
• RQ2 カスタムGPUカーネルやデータ分割を必要とせず、既存のCUBLASライブラリを効果的に活用してマルチGPU版RIDCを高速化可能か。
• RQ3 複数のGPUおよびCPUにスケーリングする際、高次時間積分において近似的な線形スループットが達成可能か。
• RQ4 4次精度が、1つのGPUでの1次解と同等のウォールクロック時間内に達成可能か。
• RQ5 GPU最適化されたRIDC法の性能は、従来のARKおよびFBE法と比較して、精度および計算コストの面で優れているか。

主な発見

• 4次RIDC-FBEスキームは、移流拡散方程式および粘性バーガース方程式の両方に対して収束解析により、設計された次数の精度を達成していることが確認された。
• 4つのGPUと4つのCPUを用いた場合、RIDC-FBE法は1つのGPUとCPUで1次前進後退オイラー（FBE）解を計算するのとほぼ同じウォールクロック時間で4次解を計算した。
• 近似的な線形スループットが達成された：4つのGPUで3.88倍、4つのCPUで3.81倍のスピードアップが得られ、効率的なスケーリングが示された。
• GPU時間の73％以上がtrsv_kernel呼び出しに費やされており、CUBLASベースの線形代数演算が性能を支配しており、データ転送は合計時間の1％未満にとどまっている。
• GPU実装はCPUオンリーバージョンよりも約10倍速く、バーガース方程式では4つのGPUで3.95倍、4つのCPUで3.94倍のGPUスループットが得られた。
• プロファイリング結果から、CUBLASカーネル（trsv、gemv）がGPU時間の97.75％を占めており、性能ボトルネックが線形代数にあり、それが効率的に最適化されたライブラリにオフロードされていることが確認された。