[论文解读] GraphMat: High performance graph analytics made productive

Narayanan Sundaram, Nadathur Satish+5 more|arXiv (Cornell University)|Mar 25, 2015

Graph Theory and Algorithms参考文献 20被引用 22

一句话总结

GraphMat 是一个高性能图分析框架，结合了顶点编程的开发效率与优化稀疏矩阵运算的执行效率。通过将顶点程序映射到广义稀疏矩阵-向量乘法（SPMV）运算，GraphMat 在 GraphLab、CombBLAS 和 Galois 等框架上实现了 1.2–7× 的性能提升，同时在 24 核环境下实现 13–15× 的加速，性能接近手写优化代码（仅慢 1.2×），展现出卓越的多核可扩展性。

ABSTRACT

Given the growing importance of large-scale graph analytics, there is a need to improve the performance of graph analysis frameworks without compromising on productivity. GraphMat is our solution to bridge this gap between a user-friendly graph analytics framework and native, hand-optimized code. GraphMat functions by taking vertex programs and mapping them to high performance sparse matrix operations in the backend. We get the productivity benefits of a vertex programming framework without sacrificing performance. GraphMat is in C++, and we have been able to write a diverse set of graph algorithms in this framework with the same effort compared to other vertex programming frameworks. GraphMat performs 1.2-7X faster than high performance frameworks such as GraphLab, CombBLAS and Galois. It achieves better multicore scalability (13-15X on 24 cores) than other frameworks and is 1.2X off native, hand-optimized code on a variety of different graph algorithms. Since GraphMat performance depends mainly on a few scalable and well-understood sparse matrix operations, GraphMatcan naturally benefit from the trend of increasing parallelism on future hardware.

研究动机与目标

• 为解决图分析框架中性能与生产力之间的差距，即高层抽象常以牺牲执行效率为代价。
• 使开发者能够使用熟悉的顶点编程模型高效实现图算法，而无需手动进行低层优化。
• 通过利用成熟且高度优化的稀疏矩阵运算作为后端，实现接近手写优化代码的性能。
• 通过标准化的基于矩阵的执行模型，提升多核可扩展性，并支持高效移植到多种硬件平台。
• 为数组处理系统提供一个可扩展、高性能的基础架构，通过顶点编程前端支持图分析。

提出的方法

• GraphMat 将用户编写的顶点程序映射到广义稀疏矩阵-向量乘法（SPMV）运算，将底层图遍历逻辑抽象为广泛研究的高性能计算（HPC）原语。
• 框架采用 C++ 实现，重点优化 SPMV 内核，包括使用位向量（bitvector）表示稀疏向量以改善内存访问模式。
• 应用编译器级优化（如 -ipo，即过程间优化）以提升标量性能，再进行并行化处理。
• 通过线程级并行化与负载均衡及数据分区策略，实现高效的并行可扩展性，最大限度减少核心间负载不均。
• 系统支持运行时可调参数，如线程数和矩阵分区方式，以平衡性能与资源利用率。
• 后端优化对用户透明，用户仅通过高层顶点编程接口进行交互，从而保持开发效率。

实验结果

研究问题

• RQ1 图分析框架能否在保持顶点编程高开发效率的同时，实现接近手写优化代码的性能？
• RQ2 稀疏矩阵运算（特别是 SPMV）在多大程度上可作为多样化图算法的高性能、可扩展后端？
• RQ3 在不同工作负载和核心数量下，GraphMat 的多核可扩展性与 GraphLab、Galois 和 CombBLAS 等现有框架相比如何？
• RQ4 特定低层优化（如位向量、-ipo 编译器标志、负载均衡）对 SPMV 执行性能的影响如何？
• RQ5 与基于任务或顶点中心的模型相比，基于矩阵的后端是否能更轻松地实现异构与分布式系统的可移植性与可扩展性？

主要发现

• 在涵盖多种图算法的单节点工作负载中，GraphMat 相较于 GraphLab、CombBLAS 和 Galois 等高性能框架，实现了 1.2–7× 的性能提升。
• 在 24 核环境下，GraphMat 的可扩展性达到 13–15×，显著优于 GraphLab、CombBLAS 和 Galois，后者的可扩展性仅为 2–12×（相对于单线程基线）。
• GraphMat 平均仅比原生手写优化代码慢 1.2×，表明其作为高层框架已接近峰值性能。
• 位向量与 -ipo 编译器标志等优化在 PageRank 上实现最高 1.9× 的性能提升，在 SSSP 上实现 1.5× 提升，负载均衡与并行化进一步提升性能。
• 引入位向量后，PageRank 的并行可扩展性从 3.9× 提升至 11.7×，SSSP 从 3.4× 提升至 4.7×，显示出显著的乘法增益。
• 与原始标量代码相比，GraphMat 在 PageRank 和 SSSP 上分别实现了 27.3× 和 19.9× 的性能提升，充分体现了后端优化的累积效应。