[論文レビュー] Improved Acceleration of the GPU Fourier Domain Acceleration Search Algorithm

Karel Adámek, Sofia Dimoudi+2 more|arXiv (Cornell University)|Nov 29, 2017

Radio Astronomy Observations and Technology被引用数 7

ひとこと要約

この論文では、カスタムFFTカーネルと改善された畳み込みルーチンを用いたGPU実装の最適化により、Fourier Domain Acceleration Search (FDAS) アルゴリズムの性能を向上させた。従来の最良実装比で44%高速化され、NVIDIA P100上でcuFFTベースの手法と比較して最大3.9倍の高速化を達成した。性能向上の背景には、スレッドレベルでのデータ再利用の向上、シャッフル命令の削減、およびスレッドあたりのFFT要素数の増加があり、電波天文における信号処理のためのより大きなフィルタサイズと高い計算効率を実現した。

ABSTRACT

We present an improvement of our implementation of the Correlation Technique for the Fourier Domain Acceleration Search (FDAS) algorithm on Graphics Processor Units (GPUs) (Dimoudi & Armour 2015; Dimoudi et al. 2017). Our new improved convolution code which uses our custom GPU FFT code is between 2.5 and 3.9 times faster the than our cuFFT-based implementation (on an NVIDIA P100) and allows for a wider range of filter sizes then our previous version. By using this new version of our convolution code in FDAS we have achieved 44% performance increase over our previous best implementation. It is also approximately 8 times faster than the existing PRESTO GPU implementation of FDAS (Luo 2013). This work is part of the AstroAccelerate project (Armour et al. 2002), a many-core accelerated time-domain signal processing library for radio astronomy.

研究の動機と目的

• 電波天文学データにおける連星パルサーの検出を目的としたFourier Domain Acceleration Search (FDAS) アルゴリズムの高速化。
• GPU上のFFTおよび畳み込みカーネルの最適化により、畳み込み演算における性能ボトルネックを克服すること。
• メモリアクセスおよび計算効率の向上により、FDASにおける使用可能なフィルタサイズの範囲を拡大すること。
• GPUカーネル性能の向上により、大規模な電波望遠鏡データ処理における計算コストとエネルギー消費を低減すること。

提案手法

• スレッドあたり複数のFFT要素を計算するカスタムGPU FFTカーネルを開発し、データ再利用を向上させ、不要なtwiddle因子計算を削減した。
• GPUのシャッフル命令を活用してワープ内でのデータ交換を高速化し、同期オーバーヘッドを低減し、小規模なFFTサイズ（N ≤ 32）において性能を向上させた。
• 長時間系列データを独立して畳み込み可能なセグメントに分割するためのオーバーラップ・アンド・セーブ法を適用し、効率的なGPU並列処理を実現した。
• 共有メモリの使用とグローバルメモリアクセスの最小化により畳み込みカーネルを最適化し、帯域幅制限型（bandwidth-bound）にすることで計算負荷を低減した。
• 改善されたFFTおよび畳み込みルーチンをFDASパイプラインに統合し、アルゴリズム固有の対称性を活用してレジスタ使用量を削減し、スレッド占有率（occupancy）を向上させた。
• P100およびTITAN Xなどの異なるGPUアーキテクチャとフィルタ長を対象にベンチマークを実施し、cuFFTおよび従来のカスタムFFT実装とを比較した。

実験結果

リサーチクエスチョン

• RQ1 FFTおよび畳み込みカーネルの低レベル最適化により、GPUベースのFDASアルゴリズムの性能をどの程度向上できるか？
• RQ2 データ再利用とシャッフル命令の活用を強化したカスタムGPU FFTカーネルは、FDASの文脈において標準のcuFFTライブラリをどの程度上回る性能を発揮するか？
• RQ3 スレッドあたりのFFT要素数を増加させることで、カーネルの占有率（occupancy）と全体的な性能にどのような影響が生じるか？
• RQ4 最適化された畳み込みカーネルは、より大きなフィルタサイズをサポートしつつも高いスループットを維持できるか？また、その影響は加速されたパルサーの検出感度にどう現れるか？

主な発見

• 新しいカスタムFFTカーネルは、P100で前回比20%、TITAN Xで50%の性能向上を達成した。
• 新しいFFTカーネルを活用した最適化された畳み込みコードは、従来の最良FDAS実装比で44%の性能向上を達成した。
• 新しい実装は、NVIDIA P100 GPU上でcuFFTベースの実装比で最大3.9倍の高速化を達成した。
• 改善されたコードにより、最大フィルタサイズが2048要素まで拡大され、より長いマッチドフィルタの実装と検出感度の向上が可能になった。
• 共有メモリを活用した畳み込みカーネルは、共有メモリ帯域幅制限型（bandwidth-bound）となり、グローバルメモリへの依存が低下し、効率が向上した。
• アルゴリズム固有の最適化（レジスタ使用量の削減、高いカーネル占有率）により、FDASパイプライン全体での性能向上がさらに顕著に現れた。