[論文レビュー] Pipelining the Fast Multipole Method over a Runtime System

Emmanuel Agullo, Bérenger Bramas+4 more|arXiv (Cornell University)|Jun 1, 2012

Electromagnetic Scattering and Analysis参考文献 32被引用数 5

ひとこと要約

この論文は、異種のCPU-GPUアーキテクチャ上でFMM計算をパイプライン化するため、タスクベースのランタイムシステム（StarPU）を用いた、高性能でポータブルな高速多重極法（FMM）の実装を提示している。FMMをデータフロー・タスクグラフとして表現し、特にP2PおよびM2LをGPUにオフロードすることで、160コアのCPU上で2億粒子を48.7秒、12コアのCPUに3台のNVIDIA M2090 GPUを搭載した環境で3800万粒子を13.34秒で処理し、チューニング済みのアーキテクチャ固有の実装と同等またはそれを上回る性能を達成した。

ABSTRACT

Fast Multipole Methods (FMM) are a fundamental operation for the simulation of many physical problems. The high performance design of such methods usually requires to carefully tune the algorithm for both the targeted physics and the hardware. In this paper, we propose a new approach that achieves high performance across architectures. Our method consists of expressing the FMM algorithm as a task flow and employing a state-of-the-art runtime system, StarPU, in order to process the tasks on the different processing units. We carefully design the task flow, the mathematical operators, their Central Processing Unit (CPU) and Graphics Processing Unit (GPU) implementations, as well as scheduling schemes. We compute potentials and forces of 200 million particles in 48.7 seconds on a homogeneous 160 cores SGI Altix UV 100 and of 38 million particles in 13.34 seconds on a heterogeneous 12 cores Intel Nehalem processor enhanced with 3 Nvidia M2090 Fermi GPUs.

研究の動機と目的

• 低レベルのチューニングを必要とせず、多様なアーキテクチャで高性能でポータブルなFMM実装を可能にすること。
• 異種環境における不規則でデータ依存性の高いFMMタスクフローのパイプライン化という課題を克服すること。
• 1つのポータブルなコードベースを用いて、手動で最適化されたアーキテクチャ固有のFMMコードと同等の性能を達成すること。
• ハイブリッドCPU-GPUシステムにおける近接場（P2P）と遠方場（M2L）計算の間での動的ロードバランシングを検討すること。
• FMMのような不規則なHPCカーネルに適したタスクベースのランタイムシステム（StarPUなど）の有効性を評価すること。

提案手法

• FMMアルゴリズムを、P2M、M2M、L2L、L2P、M2Lの操作を含む、計算タスクの有向非巡回グラフ（DAG）に分解する。
• StarPUランタイムシステムを用いたタスクベースのプログラミングモデルにより、CPUおよびGPUリソース間での動的スケジューリングを管理する。
• 特にP2PおよびM2Lを最適化したカスタムCPUおよびGPUカーネルを実装し、データ並列性を最大限に活用する。
• EagerおよびHEFTなどのスケジューリング戦略を評価し、異種ユニット間での負荷バランスを最適化し、アイドル時間を最小限に抑える。
• タスク粒度およびデータ配布の最適化を導くために、実験的に導出された性能モデルを活用する。
• アルゴリズムの一般性を保ちつつ高性能を実現できるように、「ブラックボックス」形式のFMM定式化を活用する。

実験結果

リサーチクエスチョン

• RQ1 タスクベースのランタイムシステムを用いて、異種CPU-GPUアーキテクチャ上でFMMアルゴリズムを効果的にパイプライン化できるか？
• RQ2 不規則なFMMワークロードにおける高い並列効率を達成するために、タスク粒度およびスケジューリングをどのように最適化できるか？
• RQ3 手動で最適化されたアーキテクチャ固有のコードと比較して、1つのポータブルなFMM実装が達成できる性能はどの程度か？
• RQ4 ハイブリッドシステムにおける近接場（P2P）と遠方場（M2L）計算の間での動的ロードバランシングは、全体の性能にどのように影響するか？
• RQ5 ポータビリティを損なわずに、P2PおよびM2LカーネルのGPUオフロードが性能にどの程度寄与するか？

主な発見

• FMMはStarPU上で効果的にパイプライン化され、160コアの均一なSGI Altix UV 100システム上で2億粒子を48.7秒で処理した。
• 3800万粒子の処理において、3台のNVIDIA M2090 GPUを搭載した12コアのIntel Nehalemシステム上で13.34秒の性能を達成した。
• ハイブリッドシステム上での性能は、手動で最適化されたアーキテクチャ固有のFMMコードと同等またはそれを上回り、パフォーマンスを失うことなくポータビリティを実現した。
• HEFTアルゴリズムによる動的スケジューリングは、Eagerスケジューラで観察されたスケジューリングの異常を解消し、特に低精度で近接場が支配的なケースで顕著であった。
• P2Pおよび必要に応じてM2LカーネルをGPUにオフロードすることで、特に近接場が計算を支配する場合に強いロードバランシングを達成した。
• 本研究は、タスクベースのランタイムシステムと最適化されたGPUカーネルを活用することで、1つのポータブルなFMMコードベースが多様なアーキテクチャで高い性能を達成できることを示している。