[論文レビュー] Magnetohydrodynamics on Heterogeneous architectures: a performance comparison

Bijia Pang, Ue‐Li Pen+1 more|arXiv (Cornell University)|Apr 10, 2010

Parallel Computing and Optimization Techniques参考文献 11被引用数 9

ひとこと要約

本稿では、CUDA、OpenCL、ネイティブ言語を用いた最適化実装を用いて、マルチコアx86、Cell、NVIDIA、ATI GPUを含む異種アーキテクチャにおける磁気流体力学（MHD）シミュレーションの性能比較を実施している。NVIDIA GPUでは最大105.7倍の高速化を達成し、従来のx86システムと比較してGPUベースのシステムが理論ピーク性能のより高い割合を活用できることを示している—最大7.4%のFLOPS効率—、これは顕著な差異を示している。

ABSTRACT

We present magneto-hydrodynamic simulation results for heterogeneous systems. Heterogeneous architectures combine high floating point performance many-core units hosted in conventional server nodes. Examples include Graphics Processing Units (GPU's) and Cell. They have potentially large gains in performance, at modest power and monetary cost. We implemented a magneto-hydrodynamic (MHD) simulation code on a variety of heterogeneous and multi-core architectures --- multi-core x86, Cell, Nvidia and ATI GPU --- in different languages, FORTRAN, C, Cell, CUDA and OpenCL. We present initial performance results for these systems. To our knowledge, this is the widest comparison of heterogeneous systems for MHD simulations. We review the different challenges faced in each architecture, and potential bottlenecks. We conclude that substantial gains in performance over traditional systems are possible, and in particular that is possible to extract a greater percentage of peak theoretical performance from some systems when compared to x86 architectures.

研究の動機と目的

• GPUおよびCellプロセッサを含む多様な異種コンピューティングアーキテクチャにおけるMHDシミュレーションの性能を評価・比較すること。
• 異種システムにおけるメモリ帯域幅、データ局所性、メモリ階層の関連する主な性能ボトルネックを特定および分析すること。
• CUDA、OpenCL、ネイティブAPIといった異なるプログラミングモデルが、MHDシミュレーションの高性能実現にどの程度有効であるかを評価すること。
• 各アーキテクチャで達成された理論ピーク性能の割合を定量的に評価し、従来のx86システムと比較すること。
• 異種プラットフォーム向けに、ダブルバッファリング、メモリタイリング、カーネル再編成といった最適化戦略を検討すること。

提案手法

• MUSCLおよびアドベクション制約法を用いた、2次精度で次元別分割可能な高解像度TVDスキームを実装し、MHD方程式を解いた。
• 数値的安定性を保証するため、Courant-Friedrichs-Lewy（CFL）条件を用いて時間ステップを決定した。
• x86（マルチコア）、Cell/B.E.、NVIDIA GPU（CUDA）、ATI GPU（OpenCL）の複数プラットフォームにMHDソルバを移植し、アーキテクチャ固有の最適化を実施した。
• 方向スイープ（x, y, z）間でメモリの転置を実行し、一貫したメモリアクセスパターンを維持し、キャッシュ効率を向上させた。
• 実行時間、理論的ピークFLOPS、オンチップ帯域幅、および利用率（FLOPSおよび帯域幅効率）を用いて性能を測定した。
• ブラックホール降着モデルを用いたシミュレーションを通じて、数値結果の妥当性を検証し、磁場構造およびエントロピー構造を可視化した。

実験結果

リサーチクエスチョン

• RQ1 x86、Cell、NVIDIA GPU、ATI GPUといった異なる異種アーキテクチャは、MHDシミュレーションにおいて、それぞれどのように原始的な性能を示すか？
• RQ2 各アーキテクチャにおける主な性能ボトルネック（特にメモリ帯域幅、レジスタ使用量、共有メモリ制限）は何か？
• RQ3 GPUベースのシステムは、従来のx86システムと比較して、理論ピーク性能のどの程度の割合を達成できるか？
• RQ4 OpenCLのようなポータブルAPIは、NVIDIA GPUやATI GPUのような異種プラットフォームで、CUDAやCell SDKといったベンダーロックイン言語に比べて、どの程度の性能向上を達成できるか？
• RQ5 ダブルバッファリング、メモリタイリング、カーネル再編成といったアルゴリズム最適化は、特定のアーキテクチャにおいて顕著な性能向上をもたらすか？

主な発見

• NVIDIA GPU（GTX 260）は、シングルコアx86システムと比較して105.7倍の高速化を達成し、FLOPS利用率は7.4%に達し、全プラットフォームで最高水準を記録した。
• ATI HD5870 GPUは、x86(1)と比較して68.5倍の高速化を達成し、帯域幅利用率が11.3%に達した。これは、強いメモリ効率を示している。
• Cellプロセッサは、x86(1)と比較して10.2倍の高速化を達成したが、ピークFLOPSの利用率はわずか1.3%に留まり、メモリおよびデータ移動の制約により性能が著しく未活用されていることが明らかになった。
• NVIDIA GPU上のCUDA実装は、2.40の相対的高速化率を示し、x86システムと比較して理論ピーク性能のより高い割合を活用していることを示している。
• すべてのプラットフォームにおいてメモリ帯域幅が深刻なボトルネックであった。NVIDIA GPUは19.1%の最高帯域幅利用率を記録し、メモリアクセスパターンの効率性が優れていることが示された。
• CPUコードをGPU/CUDAに直接翻訳するだけでも高い性能が得られたが、メモリアクセスおよびスレッド割り当ての観点からアルゴリズムを再設計することで、NVIDIAおよびATI GPUにおいてさらなる性能向上が得られる可能性があることが明らかになった。