[論文レビュー] Performance Engineering for a Medical Imaging Application on the Intel Xeon Phi Accelerator

Johannes Hofmann, Jan Treibig+2 more|arXiv (Cornell University)|Dec 17, 2013

Parallel Computing and Optimization Techniques参考文献 8被引用数 9

ひとこと要約

この論文は、手動最適化されたアセンブリおよびベクトル化技術を用いて、Intel Xeon Phiアクセラレータ上で3DコーンビームCT再構成の Feldkamp-Davis-Kress (FDK) アルゴリズムを最適化している。512³ボリュームで8.5 GUp/sを達成したが、GPUと比較して非効率なバイリニア補間と、GPUのワープスケジューリングやテクスチャユニットに比べて限られた遅延隠蔽能力のため、GeForce GTX 680の1/8にとどまっている。

ABSTRACT

We examine the Xeon Phi, which is based on Intel's Many Integrated Cores architecture, for its suitability to run the FDK algorithm--the most commonly used algorithm to perform the 3D image reconstruction in cone-beam computed tomography. We study the challenges of efficiently parallelizing the application and means to enable sensible data sharing between threads despite the lack of a shared last level cache. Apart from parallelization, SIMD vectorization is critical for good performance on the Xeon Phi; we perform various micro-benchmarks to investigate the platform's new set of vector instructions and put a special emphasis on the newly introduced vector gather capability. We refine a previous performance model for the application and adapt it for the Xeon Phi to validate the performance of our optimized hand-written assembly implementation, as well as the performance of several different auto-vectorization approaches.

研究の動機と目的

• FDKアルゴリズムを用いた高精度3D医療画像再構成におけるIntel Xeon Phiアクセラレータの適性を評価すること。
• 共有の最後段階キャッシュが存在しないことによるスレッドレベルのデータ共有およびメモリアクセスパターンの課題を解決すること。
• 低レベル最適化、特に手書きアセンブリおよびAVX-512命令を用いたベクトル化によりパフォーマンスを向上させること。
• 手動最適化コードとコンパイラ自動ベクトル化コードを比較し、最先端のGPU実装と比較してパフォーマンスを評価すること。

提案手法

• Xeon Phiの512ビットSIMDベクタユニットを対象とした、アセンブリ言語で手動最適化されたFDKカーネルを実装した。
• ベクタ命令のパフォーマンス、特に新規のゲザー命令とメモリアクセスパターンを特徴付けるマイクロベンチマークを実施した。
• パフォーマンスモデリングを用いて、最適化されたカーネルがXeon Phiアーキテクチャ上でどのように動作するかを検証および予測した。
• 一貫性のある比較評価を確保するため、RabbitCTベンチマークフレームワークを用いた。
• 複数のコンパイル戦略を用いて比較した：OpenMPと#pragma simd、ISPC、Intel Cコンパイラの自動ベクトル化。
• メモリ遅延隠蔽に与える4ウェイSMTおよびハードウェアコンテキストスイッチの影響を評価し、GPUのワープスケジューリングと対比した。

実験結果

リサーチクエスチョン

• RQ1 Xeon Phiが共有の最後段階キャッシュを備えていないことにより、FDK再構成におけるスレッドレベルのデータ共有およびパフォーマンスにどのような影響を与えるか？
• RQ2 手動最適化アセンブリおよびAVX-512ベクトル化は、自動ベクトル化コードと比較して、Xeon Phi上でどれほどパフォーマンスを向上させられるか？
• RQ3 理論的ピーク性能が高いため、GeForce GTX 680のようなGPUに比べてXeon Phiがなぜパフォーマンスに劣るのか？
• RQ4 メモリアクセスパターンと遅延隠蔽メカニズム（SMT対ワープスケジューリング）は、Xeon PhiとGPU間のパフォーマンスギャップにどのような役割を果たすか？
• RQ5 メモリ容量と帯域幅が重要な大規模ボリュームCT再構成シナリオでは、Xeon PhiがGPUを上回る性能を発揮できるか？

主な発見

• 手動最適化アセンブリ実装は、512³ボリューム再構成で8.5 GUp/sを達成し、自動ベクトル化コード（6.3–6.4 GUp/s）およびOpenMPと#pragma simd（5.6 GUp/s）を上回った。
• Xeon Phiの4ウェイSMTは、非連続メモリアクセス、特に3.7サイクルの遅延を示すベクタゲザー命令の遅延を隠蔽するには不十分である。
• GeForce GTX 680 GPUは512³ボリュームで67.7 GUp/sを達成し、Xeon Phiの8倍以上速く、専用テクスチャユニットのおかげでバイリニア補間が高速化されている。
• バイリニア補間は1回のカーネルイテレーションあたり97クロックサイクルのうち88サイクル（90％以上）を占め、GPUは1命令でこれを処理するが、Xeon Phiは複数の命令を必要としている。
• パフォーマンスギャップは、ピークFLOPSやメモリ帯域幅だけでは説明できず、遅延隠蔽およびグラフィックスワークロードに特化したハードウェアのアーキテクチャ的差異に起因する。
• Xeon Phiの最適化をCPUベースのfastrabbit実装にバックポートすることで、パフォーマンスが25％向上した。これは、最適化の知見が移植可能であることを示している。