[論文レビュー] Adaptive algebraic multigrid on SIMD architectures

Simon Heybrock, Matthias Rottmann+2 more|arXiv (Cornell University)|Dec 14, 2015

Parallel Computing and Optimization Techniques参考文献 3被引用数 4

ひとこと要約

本稿では、特にQPACE 2のIntel Xeon Phi (KNC)を対象として、SIMDアーキテクチャ向けに最適化されたアダプティブ代数的多重グリッド法DD-αAMGの実装を提示する。制限、補間、粗めグリッド作用素の設定、グラム・シュミット直交化といった主要なモジュールをベクトル化することで、最大20.2倍の高速化を達成し、MG計算時間を無視できるほどに削減した。その結果、性能ボトルネックは粗めグリッドの解法における通信に移行し、今後最適化の主なターゲットとなった。

ABSTRACT

We present details of our implementation of the Wuppertal adaptive algebraic multigrid code DD-$α$AMG on SIMD architectures, with particular emphasis on the Intel Xeon Phi processor (KNC) used in QPACE 2. As a smoother, the algorithm uses a domain-decomposition-based solver code previously developed for the KNC in Regensburg. We optimized the remaining parts of the multigrid code and conclude that it is a very good target for SIMD architectures. Some of the remaining bottlenecks can be eliminated by vectorizing over multiple test vectors in the setup, which is discussed in the contribution of Daniel Richtmann.

研究の動機と目的

• SIMDアーキテクチャ、特にIntel Xeon Phi (KNC)向けに、WuppertalのDD-αAMG代数的多重グリッドコードを効率的に適応・最適化すること。
• 特に制限、補間、粗めグリッド作用素の設定、およびグラム・シュミット直交化の部分に、SIMDユニットにおけるベクトル化を活用して多重グリッドサイクル内の計算ボトルネックを低減すること。
• 最適化後に生じる新しい主要な性能ボトルネックを特定・対処すること。本研究では、それが粗めグリッドの解法フェーズにおける通信であることが判明した。
• 現代の多数コアSIMDシステム上でスケーラブルかつ効率的なプリコンディショナとしての適応的代数的多重グリッドを実現し、高精度な格子QCDシミュレーションを可能にすること。

提案手法

• 複数のテストベクトル成分を1つのSIMDベクトルに統合することで、データ並列性を向上させ、SIMDインストラクションを用いて制限および補間演算をベクトル化した。
• ディラック作用素および補間行列を含む行列-ベクトル積にSIMDベクトル化を適用することで、粗めグリッド作用素の設定を最適化した。
• ブロック・グラム・シュミット直交化をSIMDベクトル化により実装し、キャッシュ再利用を向上させ、メモリ帯域幅を削減した。ベクトル化効率を考慮し、古典的グラム・シュミット法を修正版よりも優先した。
• 安定性や収束性に影響を与えない範囲で、粗めグリッド作用素のための半精度ストレージを採用し、メモリ帯域幅と作業セットサイズを削減した。
• 粗めグリッド線形代数フェーズにおけるSIMD計算を可能にするために、一時的な対策として実部と虚部のインタリーブを実行時に行う処理を導入した。
• 以前のKNC研究で得られたスムージングコードをそのままで保持し、最適化の焦点を主にスパース行列-ベクトル積および直交化を含む残りの多重グリッドモジュールに絞った。

実験結果

リサーチクエスチョン

• RQ1 DD-αAMGアルゴリズムは、Intel Xeon Phi (KNC)のようなSIMDアーキテクチャ向けに、どのように効果的に適応・ベクトル化できるか？
• RQ2 ベクトル化後の多重グリッドサイクルにおける性能ボトルネックは何か？また、元のコードと比較してボトルネックの性質はどのように変化するか？
• RQ3 制限、補間、粗めグリッド設定、およびグラム・シュミット操作のベクトル化は、SIMDユニット上でどれほど性能を向上させ得るか？
• RQ4 粗めグリッド作用素のための半精度ストレージは、収束性や安定性に悪影響を与えない範囲で安全に使用可能か？
• RQ5 最適化後の粗めグリッドの解法において、通信オーバーヘッド（例：ハローエクスチェンジやグローバル和）が果たす役割は何か？また、これを軽減できるか？

主な発見

• 粗めグリッド作用素の非対角ブロックへの適用において最大20.2倍の高速化を達成。粗めグリッド作用素の設定では19.7倍の高速化を実現した。
• 制限演算では14.1倍、補間演算では8.6倍の高速化が得られ、複数のテストベクトルに対する有効なSIMDベクトル化の効果が裏付けられた。
• 集約体におけるグラム・シュミット直交化では10.8倍の高速化が達成され、SIMDデータレイアウトを用いたブロック・グラム・シュミット法の有効性が示された。
• 最適化後、MG部が実行時間の主因ではなくなった。代わりに、粗めグリッドの解法における通信オーバーヘッド（ハローエクスチェンジおよびグローバル和）が主なボトルネックとなった。
• 粗めグリッド作用素に半精度ストレージを採用しても安定性や収束性に悪影響がなく、メモリ帯域幅の削減の観点からデフォルトとして採用された。
• 著者らは、DD-αAMGがSIMDアーキテクチャにとって優れたターゲットであると結論づけ、今後の最適化の主な焦点は粗めグリッドの解法における通信であると述べた。