[論文レビュー] QIRAL: A High Level Language for Lattice QCD Code Generation

Denis Barthou, Gilbert Grosdidier+3 more|arXiv (Cornell University)|Aug 16, 2012

Parallel Computing and Optimization Techniques参考文献 5被引用数 5

ひとこと要約

QIRAL は、格子 QCD シミュレーションに内在する規則的でスパースな行列構造を活用して、高水準な記述によって格子 QCD アルゴリズムおよび行列構造を指定し、自動的に最適化された並列コードを生成するドメイン特化言語である。この言語はアルゴリズム設計と低レベルの並列化を分離することで、マルチコアおよびハイブリッドアーキテクチャ向けの自動コード生成を可能にし、新しい事前処理法や反復的ソルバーの迅速な検討を可能にする。

ABSTRACT

Quantum chromodynamics (QCD) is the theory of subnuclear physics, aiming at mod- eling the strong nuclear force, which is responsible for the interactions of nuclear particles. Lattice QCD (LQCD) is the corresponding discrete formulation, widely used for simula- tions. The computational demand for the LQCD is tremendous. It has played a role in the history of supercomputers, and has also helped defining their future. Designing efficient LQCD codes that scale well on large (probably hybrid) supercomputers requires to express many levels of parallelism, and then to explore different algorithmic solutions. While al- gorithmic exploration is the key for efficient parallel codes, the process is hampered by the necessary coding effort. We present in this paper a domain-specific language, QIRAL, for a high level expression of parallel algorithms in LQCD. Parallelism is expressed through the mathematical struc- ture of the sparse matrices defining the problem. We show that from these expressions and from algorithmic and preconditioning formulations, a parallel code can be automatically generated. This separates algorithms and mathematical formulations for LQCD (that be- long to the field of physics) from the effective orchestration of parallelism, mainly related to compilation and optimization for parallel architectures.

研究の動機と目的

• 現代のハイブリッドスーパーコンピュータ上で、効率的かつスケーラブルな格子 QCD (LQCD) シミュレーションをコーディングする複雑さに対処すること。
• 進化するハードウェアアーキテクチャ向けに、低レベルの並列化およびデータレイアウトを手動でチューニングする作業を軽減すること。
• 低レベルのコードを再実装せずに、新しいアルゴリズムおよび事前処理技術の体系的探索を可能にすること。
• LQCD 問題の数学的定式化と、並列化および最適化のオchestration を分離すること。
• 事前処理によって変更された、複雑で構造的なスパース行列を含む、LQCD に生じる行列構造に対する自動コード生成を支援すること。

提案手法

• QIRAL は、密行列上の代数的演算子を用いて、LQCD アルゴリズムおよび行列定義を高水準な言語で表現する。
• スパース行列は直接和およびテンソル積によって表現され、格子 QCD 問題の 4D ステントリル構造を捉える。
• 言語の意味論は、Maude におけるリライト規則に基づき、数学的式の形式的取り扱いを可能にする。
• リライト戦略により、インデックス付きの和および積が並列ループに変換され、OpenMP 指令子が自動挿入される。
• コンパイラは、ループ統合、依存関係解析、スカラープromotion などの標準的最適化を適用する。
• 高水準な行列演算（例：行列-ベクトル積）は、リライト規則を介してライブラリ呼び出し（例：BLAS またはカスタム LION ライブラリ）にマッピングされる。

実験結果

リサーチクエスチョン

• RQ1 高水準なドメイン特化言語は、格子 QCD 問題の数学的構造を効果的に表現し、最適化された並列コードを自動生成できるか？
• RQ2 LQCD 行列の規則的でスパースな構造を活用して、低レベルのコーディングなしに並列化を表現できるか？
• RQ3 アルゴリズム設計と低レベルの実装詳細を分離することで、LQCD におけるアルゴリズム探索はどの程度加速できるか？
• RQ4 同じ高水準仕様から、マルチコアおよびハイブリッドシステムを含むさまざまなアーキテクチャで正しいかつ効率的なコードを生成できるか？
• RQ5 単純なステントリルパターンを破る、事前処理によって形成される複雑な行列構造に対して、このアプローチはどの程度スケーラブルか？

主な発見

• QIRAL は、LQCD 問題の高水準な数学的仕様から、正しく最適化された OpenMP 並列 C コードを生成できることを確認した。
• Pochoir らしい従来のツールとは異なり、QIRAL は単純なステントリルを越えた複雑な行列構造、例えば事前処理によって変更されたものもサポートしている。
• 自動コード生成により、4⁴ グリッド上でのさまざまな反復的ソルバー（例：CGNR、BiCGSTAB、MCR1）の迅速な比較が可能となり、収束速度の差が観察された。
• このアプローチにより、アルゴリズム開発と低レベルのパフォーマンスチューニングが分離され、新しい事前処理法やソルバー戦略の検討にかかるコストが顕著に削減された。
• コンパイラが Maude におけるリライトを用いることで、コード変換に関する形式的推論が可能となり、最適化の過程でも意味的整合性が保たれた。
• 生成されたコードは、追加のデータレイアウトおよびライブラリマッピング戦略を用いることで、GPU を含む異種アーキテクチャへの拡張も可能である。