[論文レビュー] A Generic Library for Stencil Computations

Mauro Bianco, Ugo Varetto|arXiv (Cornell University)|Jul 6, 2012

Natural Language Processing Techniques参考文献 9被引用数 8

ひとこと要約

この論文では、ステンシル計算のためのドメイン固有のC++ジェネリックライブラリを提示しており、さまざまなアーキテクチャ上で部分微分方程式（PDE）ソルバーを高水準で、ポータブルかつ効率的に実装することを可能にしている。do_all や do_reduce といった構造を用いて並列化を抽象化することで、CPU、マルチコアシステム、HPCクラスタ、GPUにおいても、最小限のコード変更で高いパフォーマンスを達成している。

ABSTRACT

In this era of diverse and heterogeneous computer architectures, the programmability issues, such as productivity and portable efficiency, are crucial to software development and algorithm design. One way to approach the problem is to step away from traditional sequential programming languages and move toward domain specific programming environments to balance between expressivity and efficiency. In order to demonstrate this principle, we developed a domain specific C++ generic library for stencil computations, like PDE solvers. The library features high level constructs to specify computation and allows the development of parallel stencil computations with very limited effort. The high abstraction constructs (like do_all and do_reduce) make the program shorter and cleaner with increased contextual information for better performance exploitation. The results show good performance from Windows multicores, to HPC clusters and machines with accelerators, like GPUs.

研究の動機と目的

• ステンシルベースのPDEソルバーにおける低レベル実装の複雑さを軽減することで、異種コンピューティングにおけるプログラマビリティの課題に対処すること。
• 並列化とデータレイアウトを抽象化することで、HPCにおける生産性とポータブルな効率性を向上させること。
• マルチコアCPU、クラスタ、GPUを含む多様なアーキテクチャ上で、パフォーマンスを犠牲にすることなく効率的な実行を可能にすること。
• 高水準な抽象化が、手で最適化されたコードと比較して競争力のあるパフォーマンスを達成できることを示すこと。

提案手法

• ライブラリは、do_all や do_reduce といったドメイン固有の抽象化を提供し、高水準で並列処理やリダクション操作を表現する。
• C++テンプレートとジェネリックプログラミングを用いることで、さまざまなバックエンド向けのコンパイル時最適化とコード生成を可能にしている。
• ステンシル計算は、アルゴリズム論理とデータレイアウト、実行戦略を分離する、洗練された直感的なインターフェースで表現される。
• OpenMP（マルチコアCPU用）、MPI（クラスタ用）、CUDA（GPU用）を含む、複数の実行バックエンドをサポートしている。
• 式テンプレートとポリシー駆動設計を活用することで、ランタイムのオーバーヘッドを伴わずにパフォーマンス指向の最適化を実現している。
• 抽象化レイヤーにより、開発者はポータブルなコードを記述しつつ、低レベルのパフォーマンス特性を維持できる。

実験結果

リサーチクエスチョン

• RQ1 高水準でジェネリックなC++ライブラリは、ステンシル計算において多様なアーキテクチャでポータブルなパフォーマンスを達成できるか？
• RQ2 do_all や do_reduce といった高水準な抽象化は、パフォーマンスを犠牲にすることなく、コードの保守性と生産性をどの程度向上できるか？
• RQ3 CPU、クラスタ、GPUにおけるパフォーマンス面で、このライブラリの抽象化レイヤーは、手で最適化された実装と比べてどうなるか？
• RQ4 同じ高水準コードを、アクセcelレータを含む異種システム上で効率的にコンパイル・実行できるか？

主な発見

• Windowsマルチコアシステムでも良好なパフォーマンスを達成しており、最小限のコード変更で効果的な並列化が実現されている。
• MPIベースの実行によりHPCクラスタでも競争力のあるパフォーマンスを発揮し、分散システムにおけるスケーラビリティが確認された。
• CUDAを介してGPUアクセcelレータを効果的にターゲットにし、GPUハードウェア上で効率的な実行が達成された。
• do_all や do_reduce といった高水準構造の使用により、短く洗練されたコードが得られ、最適化に役立つ文脈情報が増加した。
• 抽象化レイヤーにより、CPU、クラスタ、GPUを含む多様なアーキテクチャで、パフォーマンスを損なわずにポータブルなコードが維持された。