[論文レビュー] Accelerating the solution of families of shifted linear systems with CUDA

Richard Galvez, Greg van Anders|arXiv (Cornell University)|Feb 10, 2011

Particle physics theoretical and experimental studies参考文献 15被引用数 11

ひとこと要約

本論文では、複数のシフトを持つスパース線形連立一次方程式の族を効率的に解くための、GPUアクセラレート、オープンソースのCUDA実装—特にCG-MおよびBiCGStab-M—を提示する。この手法は、単一のCPUコアと比較して12倍以上の保守的な高速化を達成し、LHC物理学や超対称モデルに関連する複雑な量子ゲージ理論の実用的シミュレーションを可能にする。

ABSTRACT

We describe the GPU implementation of shifted or multimass iterative solvers for sparse linear systems of the sort encountered in lattice gauge theory. We provide a generic tool that can be used by those without GPU programming experience to accelerate the simulation of a wide array of theories. We stress genericity, which is important to allow the simulation of candidate theories for new physics at LHC, and for the study of various supersymmetric theories. We find significant speed ups, which we conservatively bound below at at least twelve times, that promise to put a variety of research questions within practical reach.

研究の動機と目的

• 格子ゲージ理論および量子場のシミュレーションに生じる、複数のシフト付き線形連立一次方程式の族を解くための汎用的でGPUアクセラレートされたソルバーの開発。
• QCD以外の理論—例えばLHCにおける新物理の候補や超対称モデル—のシミュレーションを、コアソルバーを再実装することなく効率的に行えるようにすること。
• CUDAプログラミングの専門知識が不要な、ユーザーフレンドリーでオープンソースのツールを提供し、高エネルギー物理学および計算物理学分野での広範な採用を可能にすること。
• ダイナミカルフェルミオンを含むシミュレーションにおける主要なボトル neck である、複数のシフト付き系を解く計算コストを大幅に削減すること。

提案手法

• 本ソルバーは、シフト付き線形系を解くために、マルチマス共役勾配法（CG-M）およびマルチマス双共役勾配安定化法（BiCGStab-M）のGPUアクセラレート実装を採用する。
• 行列のシフトに対してKrylov部分空間が不変であるという数学的性質を活用し、複数のシフト付き系間で計算を共有する。
• 反復定数を複数のシフト間で再利用することで、重複する行列-ベクトル乗算を回避し、計算オーバーヘッドを最小限に抑える。
• 実装はCUSPライブラリに基づき、低レベルのGPUプログラミングを抽象化する高レベルなC++ルーチンを提供する。
• 単精度および倍精度算術をサポートし、シフト数の変動に応じたパフォーマンス測定が可能である。
• 本手法は汎用的であり、(A + σiI)xi = bi の形の任意の問題に適用可能で、2次元ポアソン方程式の解法など理論的でない応用にも適用可能である。

実験結果

リサーチクエスチョン

• RQ1 GPUアクセラレートされたKrylov部分空間法は、格子ゲージ理論シミュレーションにおける複数のシフト付き線形系の解法において、顕著な性能向上を達成できるか？
• RQ2 汎用的でオープンソースのGPUソルバーは、ダイナミカルフェルミオンを含む非アーベルゲージ理論のシミュレーションにおける計算コストをどの程度削減できるか？
• RQ3 同じ問題サイズおよび精度において、GPUベースのシフト付きソルバーと単一コアCPU実装とのパフォーマンスはどの程度異なるか？
• RQ4 本ソルバーは、量子色力学（QCD）を越えて、例えば複数の右辺を持つ2次元ポアソン方程式の解法にも効果的に応用可能か？
• RQ5 適切な初期推定値を用いることで、共有されるKrylov部分空間を保つようにすることで、異なる右辺を持つ系に対してもソルバーを効果的に拡張することは可能か？

主な発見

• GPUアクセラレートされたCG-Mソルバーは、倍精度で15個のシフト付き系を解く場合、単一CPUコアと比較して12倍以上の保守的な高速化を達成する。
• 1000×1000の2次元ポアソン問題に15個のシフトを適用した場合、GPUベースのシフト付きソルバーは、単一CPUコアが非シフトCGソルバーを実行する時間の1/12未満で完了する。
• 非シフトCGソルバーのGPU実装は、シフト付きソルバーと比較して数倍速くなることが予想通りである。これは、アルゴリズム的オーバーヘッドが少ないためである。
• 本ソルバーは汎用的かつ再利用可能に設計されており、低レベルのGPUコーディングを必要とせず、広範な量子場の理論の迅速なシミュレーションを可能にする。
• 本手法は高エネルギー物理学を越えて応用可能であり、複数のシフトを持つ2次元ポアソン方程式の解法においても成功裏に適用された。
• コードのオープンソース性とCUSPプロジェクトへの統合により、将来的な研究における広範なアクセス性と拡張性が保証される。