[論文レビュー] Hypergraph Partitioning for Sparse Matrix-Matrix Multiplication

Grey Ballard, Alex Druinsky+2 more|arXiv (Cornell University)|Mar 17, 2016

Graph Theory and Algorithms参考文献 17被引用数 6

ひとこと要約

本稿では、スパース行列-行列積（SpGEMM）における通信コストを最適化するためのハイパーグラフ分割モデルを提案する。通信最適化アルゴリズムがハイパーグラフ分割問題を解くことに相当することを示しており、スパarsity依存のアプローチを採用。細かめの1次元（1D）および2次元（2D）モデルにより、入力行列の構造に応じて単純なアルゴリズムでも複雑なアルゴリズムと同等の通信効率を達成可能であることが明らかになった。

ABSTRACT

We propose a fine-grained hypergraph model for sparse matrix-matrix multiplication (SpGEMM), a key computational kernel in scientific computing and data analysis whose performance is often communication bound. This model correctly describes both the interprocessor communication volume along a critical path in a parallel computation and also the volume of data moving through the memory hierarchy in a sequential computation. We show that identifying a communication-optimal algorithm for particular input matrices is equivalent to solving a hypergraph partitioning problem. Our approach is sparsity dependent, meaning that we seek the best algorithm for the given input matrices. In addition to our (3D) fine-grained model, we also propose coarse-grained 1D and 2D models that correspond to simpler SpGEMM algorithms. We explore the relations between our models theoretically, and we study their performance experimentally in the context of three applications that use SpGEMM as a key computation. For each application, we find that at least one coarse-grained model is as communication efficient as the fine-grained model. We also observe that different applications have affinities for different algorithms. Our results demonstrate that hypergraphs are an accurate model for reasoning about the communication costs of SpGEMM as well as a practical tool for exploring the SpGEMM algorithm design space.

研究の動機と目的

• プロセッサ間通信およびメモリ階層の通信を捉えることのできる細かめのハイパーグラフモデルを用いて、SpGEMMの通信コストを正確にモデル化すること。
• 通信最適なSpGEMMアルゴリズムを特定することは、ハイパーグラフ分割問題を解くことに等しいことを示すこと。
• より単純なSpGEMMアルゴリズムを表現しながら通信コストの正確さを保つ、粗めのハイパーグラフモデル（1D, 2D, 3D）を検討すること。
• 3つの実世界の応用において、これらのモデルの性能を実験的に評価し、アプリケーション固有のアルゴリズム的適合性を同定すること。
• ハイパーグラフ分割による事前処理が、実行時コストを追加せずに通信効率の高いSpGEMM戦略を導く手がかりを提供すること。

提案手法

• ハイパーエッジが算術演算を、頂点がデータ要素を表す3次元の細かめのハイパーグラフモデルを提案。依存関係と通信量を捉える。
• ハイパーグラフモデルを用いて、逐次的および並列的SpGEMMにおける通信コストの下界を定式化。行列の非ゼロ要素構造に基づき、タイトな下界であることを証明。
• 演算およびデータの集約により、1Dおよび2Dの粗めのモデルを導入。それぞれ、行単位、外積、SpSUMMA方式に相当するアルゴリズムに対応。
• 通信最適なアルゴリズムを特定する問題を、ハイパーグラフ分割に還元。実用的な評価のため、既存のソフトウェアを活用。
• 既存のハイパーグラフ分割ツールを用いて、実際のSpGEMMワークロードにおけるアルゴリズムサブクラス間の通信コストを比較。
• 代数的マルチグリッド、線形計画法、マコフ連鎖クラスタリングの3つの応用において結果を分析し、単純なアルゴリズムが十分に機能する状況を同定。

実験結果

リサーチクエスチョン

• RQ1 細かめのハイパーグラフモデルは、逐次的および並列的設定の両方において、SpGEMMの通信コストを正確に表現できるか？
• RQ2 通信最適なSpGEMMアルゴリズムを特定することは、ハイパーグラフ分割問題を解くことに等しいか？
• RQ3 実世界のSpGEMMインスタンスにおいて、粗めのハイパーグラフモデル（1D, 2D）は、細かめの3Dモデルに比べて通信効率に劣るか？
• RQ4 異なるアプリケーションは、通信コストの観点から特定のSpGEMMアルゴリズムに異なる適合性を示すか？
• RQ5 実際の応用において、より単純な1Dまたは2Dアルゴリズムが、より複雑な3Dアルゴリズムと同等の通信効率を達成できるか？

主な発見

• 細かめのハイパーグラフモデルは、プロセッサ間通信およびメモリ階層のデータ移動を正しく捉えており、通信コストの正確なモデリングを可能にした。
• 与えられた入力行列に対する通信最適なSpGEMMアルゴリズムは、ハイパーグラフ分割問題を解くことに等しく、本モデルは先行研究よりタイトな下界を導出できた。
• 代数的マルチグリッドおよび線形計画法の応用において、特定の1Dアルゴリズムが3Dモデルと同等の通信効率を達成した。
• ソーシャルネットワーク行列を対象としたマコフ連鎖クラスタリングの応用では、2Dアルゴリズムが1Dアルゴリズムを著しく上回る通信効率を示し、アプリケーション固有のアルゴリズム的好みが顕在した。
• 結果から、ハイパーグラフ分割は、特に複数回にわたる類似したSpGEMM演算において事前処理コストを相殺できる場合に、SpGEMMのアルゴリズム設計空間を探索する実用的ツールであることが確認された。
• 粗めのモデル（1D, 2D）は通信コストの正確さを維持しており、完全な3Dモデルの解像度を必要とせずに最適なアルゴリズムを同定できる。