[论文解读] GraphHP: A Hybrid Platform for Iterative Graph Processing

Qun Chen, Song Bai+4 more|arXiv (Cornell University)|Jun 22, 2017

Graph Theory and Algorithms参考文献 27被引用 7

一句话总结

GraphHP 是一种混合平台，通过在图分区内部引入伪超步执行模型，优化了迭代图处理，减少了在批量同步并行（BSP）系统中的同步和通信开销，同时不牺牲顶点中心编程模型。在标准图工作负载上的评估表明，GraphHP 显著减少了全局迭代次数和网络消息数量，优于当前最先进的BSP系统（如Giraph++和GraphLab）。

ABSTRACT

The Bulk Synchronous Parallel(BSP) computational model has emerged as the dominant distributed framework to build large-scale iterative graph processing systems. While its implementations(e.g., Pregel, Giraph, and Hama) achieve high scalability, frequent synchronization and communication among the workers can cause substantial parallel inefficiency. To help address this critical concern, this paper introduces the GraphHP(Graph Hybrid Processing) platform which inherits the friendly vertex-centric BSP programming interface and optimizes its synchronization and communication overhead. To achieve the goal, we first propose a hybrid execution model which differentiates between the computations within a graph partition and across the partitions, and decouples the computations within a partition from distributed synchronization and communication. By implementing the computations within a partition by pseudo-superstep iteration in memory, the hybrid execution model can effectively reduce synchronization and communication overhead while not requiring heavy scheduling overhead or graph-centric sequential algorithms. We then demonstrate how the hybrid execution model can be easily implemented within the BSP abstraction to preserve its simple programming interface. Finally, we evaluate our implementation of the GraphHP platform on classical BSP applications and show that it performs significantly better than the state-of-the-art BSP implementations. Our GraphHP implementation is based on Hama, but can easily generalize to other BSP platforms.

研究动机与目标

• 解决标准BSP平台在迭代图处理中同步和通信开销过高的问题。
• 在提升性能的同时，保持BSP顶点中心编程模型的简洁性和易用性。
• 通过在跨分区同步前允许图分区内部的局部收敛，减少全局迭代次数和网络消息数量。
• 设计一个通用平台，可无缝集成到现有BSP框架（如Hama）中，而无需进行重大的架构修改。

提出的方法

• 提出一种混合执行模型，将分区内计算与分区间计算分离，解耦本地计算与分布式同步。
• 通过主内存中的伪超步迭代实现分区内计算，允许多轮本地迭代后再进行全局同步。
• 将混合模型集成到现有的BSP抽象中，以保持向后兼容性和简洁的编程接口。
• 在工作节点内部使用基于内存的消息传递，以加速本地收敛并减少网络流量。
• 设计系统以最小化调度开销，同时支持高效的负载均衡和容错能力。
• 在真实世界和合成数据集上，使用标准图算法（如PageRank、SSSP）对平台进行评估，以衡量性能提升。

实验结果

研究问题

• RQ1 是否可以通过混合执行模型在不牺牲顶点中心编程模型的前提下，减少基于BSP的图处理中的同步和通信开销？
• RQ2 与标准BSP相比，分区内伪超步迭代对收敛速度和全局迭代次数有何影响？
• RQ3 GraphHP在多大程度上能减少网络消息数量，并相较于Giraph++和GraphLab等现有BSP系统提升性能？
• RQ4 该混合模型在不同图算法和工作负载下是否具备可扩展性和通用性？
• RQ5 在混合模型中，本地计算开销与全局通信减少之间的权衡关系如何？

主要发现

• 与Giraph++和GraphLab Sync相比，GraphHP在PageRank和SSSP算法中显著减少了达到收敛所需的全局迭代次数。
• 通过在全局同步前实现局部收敛，GraphHP显著减少了网络消息数量，尤其是跨分区的消息。
• 由于全局迭代更少且通信量更低，GraphHP在PageRank和SSSP工作负载上的执行时间相比Giraph++最高可提升3.5倍。
• GraphHP的性能优于GraphLab的异步模式，后者因锁机制导致并行性下降。
• 该混合模型在保持简单统一的顶点中心编程接口的同时，实现了比标准BSP系统更快的收敛速度。
• 性能提升在多个真实世界和合成数据集上均保持一致，证明了该方法的通用适用性。