[論文レビュー] GraphMat: High performance graph analytics made productive

Narayanan Sundaram, Nadathur Satish+5 more|arXiv (Cornell University)|Mar 25, 2015

Graph Theory and Algorithms参考文献 20被引用数 22

ひとこと要約

GraphMat は、生産性の高い頂点プログラミングと最適化されたスパース行列演算の効率性を組み合わせた高性能なグラフ分析フレームワークである。頂点プログラムを一般化されたスパース行列-ベクトル乗算（SPMV）にマッピングすることにより、GraphLab や CombBLAS、Galois といったフレームワークと比較して 1.2–7× の高速化を達成し、手動で最適化されたコードと比較して 1.2× 以内の性能を発揮しながら、24 コアで効率的にスケーリングする。

ABSTRACT

Given the growing importance of large-scale graph analytics, there is a need to improve the performance of graph analysis frameworks without compromising on productivity. GraphMat is our solution to bridge this gap between a user-friendly graph analytics framework and native, hand-optimized code. GraphMat functions by taking vertex programs and mapping them to high performance sparse matrix operations in the backend. We get the productivity benefits of a vertex programming framework without sacrificing performance. GraphMat is in C++, and we have been able to write a diverse set of graph algorithms in this framework with the same effort compared to other vertex programming frameworks. GraphMat performs 1.2-7X faster than high performance frameworks such as GraphLab, CombBLAS and Galois. It achieves better multicore scalability (13-15X on 24 cores) than other frameworks and is 1.2X off native, hand-optimized code on a variety of different graph algorithms. Since GraphMat performance depends mainly on a few scalable and well-understood sparse matrix operations, GraphMatcan naturally benefit from the trend of increasing parallelism on future hardware.

研究の動機と目的

• 高レベルの抽象化が実行効率を犠牲にする傾向にあるグラフ分析フレームワークにおけるパフォーマンスと生産性のギャップを是正すること。
• 開発者が手動での低レベル最適化を一切行わずに、なじみのある頂点プログラミングモデルを用いてグラフアルゴリズムを生産的に記述できるようにすること。
• よく理解され、高度に最適化されたスパース行列演算をバックエンドとして活用することで、手動最適化コードに近いパフォーマンスを達成すること。
• 標準化された行列ベースの実行モデルを通じて、マルチコアスケーラビリティの向上と、多様なハードウェアプラットフォームへの効率的な移植性を実現すること。
• アレイ処理システムが頂点プログラミングのフロントエンドを通じてグラフ分析をサポートできる、スケーラブルで高性能な基盤を提供すること。

提案手法

• GraphMat は、ユーザーが記述した頂点プログラムを一般化されたスパース行列-ベクトル乗算（SPMV）にマッピングし、低レベルのグラフ走査ロジックを広く研究されたHPCプリミティブに抽象化する。
• フレームワークは C++ で実装されており、SPMV カーネルの最適化に重点を置き、メモリアクセスパターンの向上を図るビットベクトルベースのスパースベクトル表現を採用している。
• スカラーパフォーマンスの向上を図るため、-ipo（プロシージャ間最適化）などのコンパイラレベル最適化が並列化の前段階で適用されている。
• スレッドレベルの並列処理と、コア間の負荷不均衡を最小限に抑える負荷分散およびデータパーティショニング戦略により、並列スケーラビリティが達成されている。
• スレッド数や行列パーティショニングといったランタイム設定可能なパラメータをサポートしており、パフォーマンスとリソース利用率のバランスを取っている。
• バックエンドの最適化はユーザーに対して透明であり、ユーザーは高レベルの頂点プログラミングインターフェースを通じてのみ対話するため、生産性が保たれている。

実験結果

リサーチクエスチョン

• RQ1 グラフ分析フレームワークは、頂点プログラミングによる生産性を維持しつつ、手動最適化コードに近いパフォーマンスを達成できるか？
• RQ2 特に SPMV に代表されるスパース行列演算は、多様なグラフアルゴリズムのパフォーマンスとスケーラビリティのバックエンドとしてどれほど適しているか？
• RQ3 GraphMat のマルチコアスケーリングは、GraphLab や Galois、CombBLAS といった既存のフレームワークと比較して、さまざまなワークロードおよびコア数においてどのように異なるか？
• RQ4 ビットベクトル、コンパイラ最適化、負荷分散といった具体的な低レベル最適化が、SPMV 実行に与えるパフォーマンスへの影響はどの程度か？
• RQ5 タスクベースや頂点中心モデルと比較して、行列ベースのバックエンドは、異種および分散システムへの移植性と拡張性を高めるのに有効であるか？

主な発見

• GraphMat は、多様なグラフアルゴリズムにおいて、GraphLab や CombBLAS、Galois といった高性能フレームワークと比較して、単一ノードワークロードで 1.2–7× の高速化を達成している。
• 24 コアで 13–15× のスケーリングを達成しており、GraphLab や CombBLAS、Galois がシングルスレッドベースラインに対して 2–12× のみのスケーリングにとどまるのと比べ、顕著な性能優位性を示している。
• 平均して、ネイティブで手動最適化されたコードと比較して 1.2× 以内の性能を発揮しており、高レベルフレームワークとしては極めて高いパフォーマンスを達成している。
• ビットベクトルや -ipo コンパイラフラグといった最適化により、Pagerank で最大 1.9×、SSSP で 1.5× の高速化が得られ、負荷分散と並列化によるさらなる向上も見られた。
• ビットベクトルの追加により、Pagerank では並列スケーリングが 3.9× から 11.7× に向上し、SSSP では 3.4× から 4.7× に向上しており、乗法的効果が顕著に現れている。
• ナイーブなスカラコードに対して、Pagerank で 27.3×、SSSP で 19.9× の高速化を達成しており、バックエンド最適化の累積的影響が明確に示されている。