[論文レビュー] GPU Kernels for High-Speed 4-Bit Astrophysical Data Processing

Peter Klages, Kevin Bandura+4 more|arXiv (Cornell University)|Mar 20, 2015

Radio Astronomy Observations and Technology参考文献 3被引用数 4

ひとこと要約

本論文は、干渉電波望遠鏡における高速な4ビット天体データ相関のためのOpenCLベースGPUカーネルを提示する。4ビットデータパッケージングと統合乗加算命令を活用し、AMD GPU上で理論ピーク性能の131％を達成した。この手法により、大規模なNに対する効率的でスケーラブルなO(N²)相関が可能となり、CHIME Pathfinder相関器でリアルタイム動作が実証された。

ABSTRACT

Interferometric radio telescopes often rely on computationally expensive O(N^2) correlation calculations; fortunately these computations map well to massively parallel accelerators such as low-cost GPUs. This paper describes the OpenCL kernels developed for the GPU based X-engine of a new hybrid FX correlator. Channelized data from the F-engine is supplied to the GPUs as 4-bit, offset-encoded real and imaginary integers. Because of the low bit width of the data, two values may be packed into a 32-bit register, allowing multiplication and addition of more than one value with a single fused multiply-add instruction. With this data and calculation packing scheme, as many as 5.6 effective tera-operations per second (TOPS) can be executed on a 4.3 TOPS GPU. The kernel design allows correlations to scale to large numbers of input elements, limited only by maximum buffer sizes on the GPU. This code is currently working on-sky with the CHIME Pathfinder Correlator in BC, Canada.

研究の動機と目的

• 低ビット深度データを用いた、高パフォーマンスでポータブルな干渉電波望遠鏡用Xエンジン相関器の開発を目的とする。
• CUDAベースのソリューションのハードウェアおよびソフトウェア的制限を克服するため、クロスプラットフォームGPU互換性を実現するOpenCLの使用を目的とする。
• 4ビットデータパッケージングと統合乗加算命令を活用することで、低価格GPUにおける計算効率を最大化することを目的とする。
• CHIME Pathfinderおよび本格CHIME装置における、多数の干渉素子（Nは最大8192）のスケーラブルかつリアルタイム相関を可能にすることを目的とする。
• 既存のCUDAベースの相関器（例：xGPU）とは異なり、オープンソースでベンダーアーギールな代替ソリューションを提供し、4ビットデータ処理において優れたパフォーマンスを実現することを目的とする。

提案手法

• 本手法は、32ビット単位に2つの4ビットオフセット符号化実数および虚数データをパックすることで、データスルーレートを最大化する。
• AMD GPUの統合乗加算命令（mad24）を活用し、1命令で2つの複素相関を計算することで、算術演算数を削減する。
• タイル化され、上三角行列に限定された相関アルゴリズムを実装し、重複する演算を減らすために一意なペアのみを計算する。
• GPUベンダーよりもポータブルな実装を実現するため、OpenCLで実装し、AMD Southern Islands GPUに最適化を施した。
• 同時に複数の周波数帯域にわたる処理をサポートし、時間遅延補正およびゲート型相関の拡張機能も含む。
• アルゴリズムはGPUバッファサイズによって制限されるメモリバウンドであり、計算能力ではなく、大規模なNへのスケーリングが可能である。

実験結果

リサーチクエスチョン

• RQ1 4ビットデータパッケージングと統合乗加算命令を組み合わせることで、GPU上での標準的な浮動小数点または整数演算よりも高い有効スルーレートを達成できるか？
• RQ2 4ビットパックドカーネルのパフォーマンスは、GPUの理論ピーク性能に対してどの程度の水準に達するのか、特に既存のCUDAベースの実装と比較してどうか？
• RQ3 入力要素数（N）が大きくなるに従って、アルゴリズムのパフォーマンス劣化が生じない程度にどの程度までスケーリング可能か？
• RQ4 4ビットデータ処理において、OpenCLベースの実装が、高度に最適化されたCUDAベースのXエンジン（例：xGPU）を上回ることができるか？
• RQ5 現代のGPU上で、高帯域幅の天体データをリアルタイムで処理するためのI/Oおよびメモリ帯域幅要件は何か？

主な発見

• N=2048の入力要素を処理する際、4ビットパックドカーネルはGPUの理論ピーク性能の131％に達し、4ビットデータ処理においてCUDAベースのxGPU実装を上回った。
• 1台のAMD R9 280X GPUで、1秒間に最大331,800の相関行列を処理でき、CHIME Pathfinder（N=256）のリアルタイム動作を実現した。
• 本格CHIME（N=2048、400 MHz帯域）では、約1,200台のGPUが必要であり、N=256を超えるとI/O帯域幅が無視できるほど小さくなる。
• 複数の周波数帯域を同時に処理しても、パフォーマンスへの影響は最小限に抑えられ、高い効率を維持した。
• ハードウェア利用率は81％に達し、xGPUの91％よりは低いが、効果的なデータパッケージングのおかげで、4ビットデータ処理において依然として優れたパフォーマンスを発揮した。
• コードはオープンソースであり、他の同様の命令セットをサポートするGPUへの再最適化が最小限で済む。