[論文レビュー] The Heisenberg spin glass model on GPU: myths and actual facts

Massimo Bernaschi, Giorgio Parisi+1 more|arXiv (Cornell University)|Jun 13, 2010

Theoretical and Computational Physics参考文献 4被引用数 4

ひとこと要約

この論文は、3次元ヘイゼンベルグスピンガラスモデルのGPU実装を評価し、共有メモリがグローバルメモリアクセスコストを相殺するためのマルチヒット技術と組み合わせられない限り、性能向上に寄与しないことを示している。主な発見は、テクスチャベースのグローバルメモリアクセスが、1回のデータロードあたり複数回の更新が行われない限り、共有メモリを上回る性能（約100 GFlops、1スピン更新あたり0.63 ns）を達成することであり、これは、メモリアクセス最適化が純粋なメモリ帯域幅よりも重要であることを強調している。

ABSTRACT

We describe different implementations of the 3D Heisenberg spin glass model for Graphics Processing Units (GPU). The results show that the {\em fast} shared memory gives better performance with respect to the {\em slow} global memory only if a multi-hit technique is used.

研究の動機と目的

• 3次元ヘイゼンベルグスピンガラスモデルの複数のGPUベース実装を評価・比較すること。
• GPUアクセceleratedスピンガラスシミュレーションにおいて、共有メモリがグローバルメモリよりも性能向上をもたらすかを特定すること。
• メモリ階層の特徴（共有メモリ、キャッシュ、テクスチャメモリ）が計算性能に与える影響を調査すること。
• コンパイラアーキテクチャおよびECCメモリがモンテカルロスピンシミュレーションにおけるGPU性能に与える影響を評価すること。
• このクラスの統計力学的シミュレーションにおいて、GPUが従来のベクトルマルチコアシステムに比べてどれほど性能向上を達成できるかを定量すること。

提案手法

• NVIDIA GPU（Tesla C1060、C2050、GTX 480）を用いて、CUDAを用いてヘイゼンベルグスピンガラスモデルを実装した。
• 複数のメモリアクセス戦略（グローバルメモリ（GM）、テクスチャメモリ（TEXT）、共有メモリ（SM）、キャッシュ（CA））をベンチマークした。
• 複数回のスピン更新にわたり共有メモリデータを再利用するマルチヒット技術を適用し、グローバルメモリ帯域幅の圧力を軽減した。
• 白色と黒色のスピンをそれぞれZプレーンごとに2回の別々のカーネル起動で更新する起動パターンを用い、効率的な共有メモリタイリングを実現した。
• 無限回ヒットの外挿法を用いて、スピン更新時間の測定と、グローバルメモリアクセスの有効遅延の推定を行った。
• ECCメモリおよびコンパイラ設定（例：sm_13 対 sm_40）が性能およびメモリアクセスオーバーヘッドに与える影響を評価した。

実験結果

リサーチクエスチョン

• RQ1 GPUアクセceleratedヘイゼンベルグスピンガラスシミュレーションにおいて、共有メモリがグローバルメモリよりも性能向上をもたらすか？
• RQ2 共有メモリにおけるマルチヒット技術が、グローバルメモリアクセスの有効遅延を顕著に低減できるか？
• RQ3 理論的には優位性があるにもかかわらず、なぜテクスチャメモリはわずかな性能向上しか示さないのか？
• RQ4 ECCメモリの有無が、さまざまなメモリアクセスパターンにおける性能に与える影響は何か？
• RQ5 このシミュレーションワークロードにおいて、GPUがベクトルマルチコアCPUに比べて実際にどの程度の性能向上を達成できるか？

主な発見

• テクスチャベースのグローバルメモリ実装は、持続的な性能として約100 GFlopsを達成し、1スピン更新あたり0.63 nsの性能を示した。
• 共有メモリは、マルチヒット技術と組み合わせて初めて性能向上をもたらす。これは、高遅延のグローバルメモリロードを複数回の更新にわたって平均化することで実現される。
• グローバルメモリアクセスの有効遅延は、0.6 ns/アクセスと推定された。これは、メモリ帯域幅とコalescingのおかげで、名目上の200サイクル遅延よりも顕著に低い値である。
• 理論的には利点があるにもかかわらず、キャッシュは測定可能な性能向上を示さなかった。これは、Zプレーンごとに複数回のカーネル起動による高いカーネル起動オーバーヘッドが原因であると推定される。
• GTX 480 GPUは、テクスチャベース手法を用いて1スピン更新あたり0.63 nsの性能を達成し、ベクトルマルチコアIntel i7（1更新あたり5 ns）に比べてほぼ1桁の高速化を実現した。
• GPUアーキテクチャの性能は2年間で2倍以上に向上しており、今後のスピン系シミュレーションに非常に適している。