[論文レビュー] Portability: A Necessary Approach for Future Scientific Software

Meghna Bhattacharya, P. Calafiura+17 more|arXiv (Cornell University)|Mar 16, 2022

Distributed and Parallel Computing Systems被引用数 7

ひとこと要約

本論文は、高エネルギー物理学（HEP）分野の科学的ソフトウェアが、GPU や FPGA を含む多様なハードウェア上でコードの再実装なしに効率的に実行できるようにするためのポータブル並列化戦略（PPS）を提案する。Kokkos や SYCL、OpenMP、C++ の std::execution といった既存のソリューションを評価し、単一の理想的な解決策はまだ存在しないものの、今後のポータビリティと科学的持続可能性のためには、コミュニティ主導の標準化とベンダー支援が不可欠であると結論づける。

ABSTRACT

Today's world of scientific software for High Energy Physics (HEP) is powered by x86 code, while the future will be much more reliant on accelerators like GPUs and FPGAs. The portable parallelization strategies (PPS) project of the High Energy Physics Center for Computational Excellence (HEP/CCE) is investigating solutions for portability techniques that will allow the coding of an algorithm once, and the ability to execute it on a variety of hardware products from many vendors, especially including accelerators. We think without these solutions, the scientific success of our experiments and endeavors is in danger, as software development could be expert driven and costly to be able to run on available hardware infrastructure. We think the best solution for the community would be an extension to the C++ standard with a very low entry bar for users, supporting all hardware forms and vendors. We are very far from that ideal though. We argue that in the future, as a community, we need to request and work on portability solutions and strive to reach this ideal.

研究の動機と目的

• GPU や FPGA、SoC の登場により、x86 僅限のコードではもはや十分でない、HEP コンピューティングにおけるハードウェアの異種性が増大する課題に対処すること。
• 数百万行に及ぶコードを持つ大規模 HEP 実験において、複数のハードウェア固有のコードベースを維持する非効率性と高コストを克服すること。
• 既存のポータブルプログラミングモデルを評価・比較し、HEP ワークロードに適した実用的でスケーラブルな解決策を同定すること。
• HEP 実験および広範な科学コミュニティがポータブル並列化技術を採用するための実行可能な提言を提供すること。
• すべてのハードウェアベンダーやアーキテクチャをカバーする、低障壁でポータブルかつポータブルファーストの科学的コンピューティングを可能にする将来の C++ 標準拡張の推進を提唱すること。

提案手法

• Kokkos、SYCL、Alpaka、OpenMP/OpenACC、C++ の std::execution::parallel の5つの主要なポータブルプログラミングモデルを評価する。
• 実際の実験（例：CMS、DUNE、ATLAS、ACTS）から抽出した代表的な HEP ワークロードを、各ポータビリティレイヤーに実装し、実用的妥当性を評価する。
• 開発者体験、パフォーマンス、ポータビリティ、エコシステム成熟度に焦点を当てた標準化されたメトリクスセットを用いて技術を比較する。
• GPU や CPU などの異なるバックエンド上で、ピクセル追跡、空間点形成、高速コンパクト器シミュレーションといったユースケースを実際に実装する。
• NVIDIA、AMD、Intel、LLVM、GNU といった主要ベンダーの既存コンパイラサポートを活用し、実世界のパフォーマンスと互換性をテストする。
• ディレクティブベース（OpenMP）と言語ベース（SYCL、Kokkos）のモデルを比較し、非同期実行、メモリ管理、GPU オフロードのサポートを含む機能を評価する。

実験結果

リサーチクエスチョン

• RQ1 OpenMP や SYCL、Kokkos といった既存のポータブルプログラミングモデルが、GPU や FPGA を含む多様なハードウェアプラットフォーム上で HEP ワークロードを効率的にコンパイル・実行できるか。
• RQ2 異なるポータブル並列化ソリューション間で、開発生産性、パフォーマンスポータビリティ、エコシステム成熟度の観点から、どのような主なトレードオフが生じるか。
• RQ3 ディレクティブベースのモデル（OpenMP）と言語ベースのモデル（SYCL や Kokkos）は、HEP 特有のワークロードにおいて、使いやすさとパフォーマンスの観点でどのように比較できるか。
• RQ4 現在のコンパイラとランタイムシステムが、生産的 HEP ワークロードに必要な機能（例：非同期カーネル、メモリ空間、ベンダーライブラリとの相互運用性）をどの程度サポートしているか。
• RQ5 将来の C++ 標準拡張が、ポータブル HEP ソフトウェア開発を統一し、ベンダーロックインを低減する役割を果たす可能性はどの程度か。

主な発見

• PPS プロジェクトは、すべての HEP ユースケースに最適な単一のポータブルソリューションはまだ存在しないものの、OpenMP、SYCL、Kokkos といった技術が、異種アーキテクチャ間での実行において強く実現可能であると判明した。
• OpenMP ターゲットオフロードは GPU アクceleration に対して有望なサポートを示しており、主要 HPC ベンダーがそのコンパイラとランタイムシステムを積極的に開発している。
• C++ の std::execution::parallel（std::par）は開発者にとって低障壁であるが、現在のところコンパイラサポートが未熟で、特に GPU バックエンドではパフォーマンス制限が顕著である。
• Kokkos と Alpaka は、異種実行の強力な抽象化レイヤーを提供しているが、ディレクティブベースのモデルと比較して、より深い統合と専門知識が求められる。
• SYCL と OpenMP は、ハイレベルな抽象化と急速に拡大する産業的支援（特に Intel、NVIDIA、AMD からの支援）のおかげで、強く有望な可能性を示している。
• 進展は見られるものの、コンパイラやハードウェアによってパフォーマンスとポータビリティが一貫しない状況が続き、統一的で標準的かつ広く採用された解決策の欠如が、科学的ソフトウェアの持続可能性の主な障壁のままである。