[论文解读] GraphR: Accelerating Graph Processing Using ReRAM

Linghao Song, Youwei Zhuo+3 more|arXiv (Cornell University)|Aug 21, 2017

Graph Theory and Algorithms参考文献 55被引用 4

一句话总结

GraphR 是首个基于 ReRAM 的图处理加速器，通过 ReRAM 交叉阵列实现模拟内存内计算，以加速稀疏矩阵-向量乘法（SpMV），这是许多图算法的核心操作。它相较于 CPU 实现了高达 132.67× 的加速比和 33.82× 的能耗节省，通过利用原位计算和非易失性存储器特性，在性能和能效方面优于 GPU 和 PIM 架构的系统。

ABSTRACT

This paper presents GRAPHR, the first ReRAM-based graph processing accelerator. GRAPHR follows the principle of near-data processing and explores the opportunity of performing massive parallel analog operations with low hardware and energy cost. The analog computation is suit- able for graph processing because: 1) The algorithms are iterative and could inherently tolerate the imprecision; 2) Both probability calculation (e.g., PageRank and Collaborative Filtering) and typical graph algorithms involving integers (e.g., BFS/SSSP) are resilient to errors. The key insight of GRAPHR is that if a vertex program of a graph algorithm can be expressed in sparse matrix vector multiplication (SpMV), it can be efficiently performed by ReRAM crossbar. We show that this assumption is generally true for a large set of graph algorithms. GRAPHR is a novel accelerator architecture consisting of two components: memory ReRAM and graph engine (GE). The core graph computations are performed in sparse matrix format in GEs (ReRAM crossbars). The vector/matrix-based graph computation is not new, but ReRAM offers the unique opportunity to realize the massive parallelism with unprecedented energy efficiency and low hardware cost. With small subgraphs processed by GEs, the gain of performing parallel operations overshadows the wastes due to sparsity. The experiment results show that GRAPHR achieves a 16.01x (up to 132.67x) speedup and a 33.82x energy saving on geometric mean compared to a CPU baseline system. Com- pared to GPU, GRAPHR achieves 1.69x to 2.19x speedup and consumes 4.77x to 8.91x less energy. GRAPHR gains a speedup of 1.16x to 4.12x, and is 3.67x to 10.96x more energy efficiency compared to PIM-based architecture.

研究动机与目标

• 解决传统图处理架构中高内存带宽和数据移动开销的问题。
• 利用迭代图算法固有的容错能力，实现在新兴非易失性存储器中的模拟计算。
• 设计一种新型加速器，集成 ReRAM 交叉阵列和图引擎，以实现高效的内存内 SpMV 执行。
• 展示相较于 CPU、GPU 和 PIM 架构系统，在性能和能效方面取得显著提升。
• 验证基于 ReRAM 的模拟计算在真实图工作负载中具有可行性和高效性。

提出的方法

• GraphR 将以稀疏矩阵-向量乘法（SpMV）表示的顶点程序映射到 ReRAM 交叉阵列上，实现原位模拟计算。
• 采用两组件架构：基于 ReRAM 的存储单元用于存储稀疏矩阵，图引擎（GEs）执行并行模拟操作。
• 系统并行处理小型子图，其中大规模并行性的优势超过稀疏性带来的低效影响。
• 模拟计算直接在 ReRAM 交叉阵列上执行，实现无需将数据移至处理单元的节能型矩阵-向量乘法。
• 设计利用 ReRAM 的非易失性特性，最大限度减少静态功耗泄漏，并支持内存内处理以减少数据移动。
• GraphR 采用混合执行模型，将高度可并行化的 SpMV 操作卸载至 ReRAM 交叉阵列，而将不规则内存访问交由主存处理。

实验结果

研究问题

• RQ1 使用 ReRAM 交叉阵列进行模拟内存内计算能否有效加速图处理工作负载？
• RQ2 迭代图算法的固有容错能力在多大程度上可容忍 ReRAM 模拟操作中的不精确性？
• RQ3 基于 ReRAM 的 SpMV 在性能和能效方面与 CPU、GPU 和 PIM 架构加速器相比如何？
• RQ4 数据稀疏性对 GraphR 性能和能效有何影响？
• RQ5 通过结合原位计算与稀疏矩阵表示，GraphR 的架构设计能否实现更优的加速比和能效节省？

主要发现

• 在所有评估的图工作负载上，GraphR 相较于 CPU 基准系统实现了几何平均 16.01× 的加速比（最高达 132.67×）。
• 与 CPU 平台相比，GraphR 实现了几何平均 33.82× 的能耗节省，最高能耗节省达 217.88×（在 SD 数据集的稀疏矩阵-向量乘法上）。
• 相较于 GPU，GraphR 在性能上实现了 1.69× 至 2.19× 的更高性能，且能耗低 4.77× 至 8.91×，尽管其计算单元数量与 GPU 相当。
• 相较于 PIM 架构，GraphR 在加速比上高出 1.16× 至 4.12×，在能效方面高出 3.67× 至 10.96×。
• 随着稀疏性增加，性能和能效略有下降，但并行性带来的增益仍主导了开销。
• 结果证实，基于 ReRAM 的模拟计算在图处理中具有可行性和有效性，尤其适用于以 MAC 操作为主导的算法（如 PageRank 和协同过滤）。