[論文レビュー] Parallel Algorithms for Constructing Data Structures for Fast Multipole Methods

Qi Hu, Nail A. Gumerov+1 more|arXiv (Cornell University)|Jan 8, 2013

Electromagnetic Scattering and Analysis参考文献 21被引用数 3

ひとこと要約

本稿では、Fast Multipole Methods (FMM) のデータ構造構築のための新規並列アルゴリズムを提示しており、CPU、GPU、分散異種システムでも効率的な O(N) 構築を可能にしている。この手法により、GPU で 20–100× の高速化が達成され、複数ノードにわたる強力なスケーラビリティを示し、動的粒子分布を伴う大規模 FMM シミュレーションにおけるデータ構造のオーバーヘッドを顕著に低減している。

ABSTRACT

We present efficient algorithms to build data structures and the lists needed for fast multipole methods. The algorithms are capable of being efficiently implemented on both serial, data parallel GPU and on distributed architectures. With these algorithms it is possible to map the FMM efficiently on to the GPU or distributed heterogeneous CPU-GPU systems. Further, in dynamic problems, as the distribution of the particles change, the reduced cost of building the data structures improves performance. Using these algorithms, we demonstrate example high fidelity simulations with large problem sizes by using FMM on both single and multiple heterogeneous computing facilities equipped with multi-core CPU and many-core GPUs.

研究の動機と目的

• 変化する粒子分布を伴う動的シミュレーションにおける主要なボトル neck である FMM データ構造の構築にかかる計算コストを低減すること。
• 異種 CPU-GPU アーキテクチャおよび分散システムにおける FMM データ構造の効率的かつスケーラブルな構築を可能にすること。
• データ構造構築の時間計算量を O(N) に保証し、全体の FMM 計算に比べて無視できるほど小さくすること。
• 複数ノード間でのワークロードをバランスさせ、分散 FMM 実装における通信オーバーヘッドを最小限に抑えること。
• 単一ノードおよびマルチノードの異種コンピューティング環境において、高精度で大規模なシミュレーションを可能にするために、データ構造構築を最適化すること。

提案手法

• 近接および遠隔相互作用を管理するため、Well-Separated Pair Decomposition (WSPD) を用いた八分木ベースの空間データ構造の並列構築アルゴリズムを提案する。
• GPU に最適化された FMM データ構造構築の実装を導入し、CPU 僅用バージョンと比較して 20–100× の高速化を達成した。
• 空間ボックスをノードに割り当て、負荷分散とデータマネージャによるボックスのインポート/エクスポートを介して通信を最小限に抑える分散アルゴリズムを開発した。
• 複数ノードシステムにおけるボトル neck を軽減するため、1対多の通信モデルではなく、各ノードが自らの通信ターゲットを計算する多対多通信モデルを採用した。
• ボックスタイプ計算を八分木および隣接リストの構築と統合することで、全体のデータ構造コストを削減した。
• P2M（粒子から多重極）、M2M（多重極から多重極）、M2L（多重極から局所）、L2P（局所から粒子）、および最終の合計化ステップを含む階層的で多段階の FMM フレームワークを採用し、すべてのステップを並列データ構造構築によって加速した。

実験結果

リサーチクエスチョン

• RQ1 GPU および分散 CPU-GPU システム上で FMM データ構造の構築を効率的に並列化でき、その O(N) コストを全体の FMM 時間の無視できる程度にまで低減できるか？
• RQ2 動的粒子分布を伴う状況下でも、提案された並列データ構造構築の性能は複数の GPU やノードにわたってどのようにスケーリングするか？
• RQ3 通信オーバーヘッドとワークロードの不均衡は、分散 FMM データ構造構築のスケーラビリティにどのような影響を及えるか？
• RQ4 提案されたアルゴリズムは、通信コストを最小限に抑え、CPU-GPU のワークロードをバランスさせることで、強いスケーリングを達成できるか？
• RQ5 他のデータ構造と統合されたボックスタイプ計算の統合は、全体のパフォーマンスとスケーラビリティにどのような影響を及えるか？

主な発見

• 提案された並列アルゴリズムにより、FMM データ構造の構築が O(N) 時間計算量で達成され、大規模シミュレーションにおいてスケーラブルかつ効率的であることが示された。
• GPU アクcelerated のデータ構造構築により、CPU 僅用バージョンと比較して 20–100× の高速化が達成され、FMM 全体の実行時間に占めるデータ構造ステップの寄与度が顕著に低減した。
• 1–32 個の GPU を用いた複数ノード間で強いスケーリングが実証され、GPU の処理がボトル neck となる状況で、1600万および 800万問題サイズにおいてほぼ完璧なスケーリングが達成された。
• データマネージャの通信オーバーヘッドはわずか 1–15% に抑えられ、計算核の評価が支配的になる大規模問題では無視できるほど小さいことが示された。
• 分散システムでは良好な負荷分散が達成されており、1ノードあたり 2 個の GPU を使用した場合が最適なパフォーマンスを示した。これは、CPU と GPU のワークロードがバランスしているためである。
• 通信ボトル neck は多対多通信モデルにより軽減されており、各ノードが自らの通信ターゲットを計算している。今後の研究では、より効果的な通信パターンの改善により、さらなるトラフィック低減が期待できる。