[論文レビュー] Adaptive Work-Efficient Connected Components on the GPU

Michael Sutton, Tal Ben‐Nun+3 more|arXiv (Cornell University)|Dec 4, 2016

Parallel Computing and Optimization Techniques参考文献 3被引用数 3

ひとこと要約

本稿では、修正されたHook-Compressアプローチを用いた、作業効率が高く、適応可能なGPU実装による連結成分アルゴリズムを提示する。Compress操作を1つのMulti-Jumpカーネルに統合し、グラフの次数に応じてエッジを動的にセグメント化することで、アトミック競合とCPU-GPUのラウンドトリップを低減し、多様なグラフタイプにおいて、最先端のGPU CC実装と比較して最大6.76倍の高速化を達成した。

ABSTRACT

This report presents an adaptive work-efficient approach for implementing the Connected Components algorithm on GPUs. The results show a considerable increase in performance (up to 6.8$ imes$) over current state-of-the-art solutions.

研究の動機と目的

• 高いアトミック競合と頻繁なCPU-GPU同期による、既存のGPU連結成分アルゴリズムの性能制限を解消すること。
• 冗長な操作の最小化とメモリアクセスオーバーヘッドの低減により、並列グラフ処理における作業効率を向上させること。
• 平均次数や接続パターンといったグラフ特性に応じて動的に調整可能な、GPUネイティブで適応的なアルゴリズムを設計すること。
• 複数の順次カーネル起動の必要性を排除するために、Compress操作を1つのスケーラブルなカーネルに統合すること。

提案手法

• 複数のJump操作を1つの並列カーネルに統合したMulti-Jumpカーネルを導入し、カーネル起動のオーバーヘッドを低減するとともに、メモリコalescingを改善する。
• アトミック比較・スワップ操作を用いてホッキングを実行するAtomic-Hookカーネルを提案し、グローバル同期なしに正しく更新を保証する。
• 平均次数に応じてエッジリストを約2|E|/|V|セグメントに分割する動的セグメンテーション戦略を採用し、アトミック競合とCompressコストのバランスを取る。
• Multi-Jumpにおける部分順序スケジューリングを適用し、より高いインデックスの頂点（ルートに近い頂点）を優先することで、メモリアクセスパターンを改善し、分岐を低減する。
• アトミック操作コストとCompressオーバーヘッドのバランスを取るために、2|E|/|V|のヒューリスティックなセグメントサイズを適用し、グラフ密度に適応する。
• 最適化されたカーネルをホストサイドのループに統合し、セグメント化されたAtomic-HookフェーズとフルMulti-Jumpフェーズを交互に実行することで、適応的収束を実現する。

実験結果

リサーチクエスチョン

• RQ1 アトミック操作とカーネル起動のオーバーヘッドを低減することで、GPUベースの連結成分処理の作業効率をどのように向上させられるか？
• RQ2 Hook-Compressアルゴリズムにおいて、アトミック競合とCompressコストのバランスを取る最適なエッジセグメント数は何か？
• RQ3 複数のCompress操作を1つのカーネルに統合することで、不規則なグラフワークロードにおける性能ボトルネックを顕著に低減できるか？
• RQ4 グラフ次数に基づく動的セグメンテーションは、多様なグラフタイプにわたる収束速度とスケーラビリティにどのように影響するか？
• RQ5 デバイス中心のカーネル設計により、不規則なグラフアルゴリズムにおけるCPU-GPUラウンドトリップをどれほど低減でき、全体的な性能を向上させられるか？

主な発見

• 提案された適応的アルゴリズムは、多様なワークロードにおいて、ベースラインのSoman et al. [3] 実装と比較して最大6.76倍の高速化を達成した。
• Multi-Jump最適化は、すべてのグラフタイプにおいて一貫して性能を向上させ、カーネル起動のオーバーヘッド低減とメモリアクセスパターンの改善に寄与した。
• Atomic-Hookに動的セグメンテーションを適用した場合、低次数グラフ（例：USA OSM）で最も高い向上が得られ、最大4.15倍の高速化を達成した。
• 2|E|/|V|の最適なセグメンテーションサイズは、すべてのテスト対象グラフで一貫して性能を最大化し、ヒューリスティック設計の妥当性を裏付けた。
• 高次数グラフ（例：kron-logn21 および soc-live-journal）では、Multi-Jump最適化の影響は限定的（1.02倍および1.14倍）であり、これはO(|V|)のCompressコストがO(|E|)のHookコストに比べて相対的に小さいためである。
• 適応的アプローチにより、GPU上ですべての処理を実行することでCPU-GPUラウンドトリップを最小限に抑え、スケーラビリティ向上と遅延低減を実現した。