[论文解读] Partitioning Strategies for Load Balancing Subgraph-centric Distributed Graph Processing

Neel Choudhury, Ravikant Dindokar+2 more|arXiv (Cornell University)|Aug 18, 2015

Graph Theory and Algorithms参考文献 24被引用 3

一句话总结

本文提出了三种以子图为中心的分区策略——平面式、分层式和自适应式，以改善分布式图处理中的负载均衡。通过优化组件在机器间的分布，该方法将CPU利用率最高提升8倍，makespan最高减少5倍，相较于默认策略显著优于Apache Giraph在幂律图和空间平面图上的可扩展性和效率。

ABSTRACT

Distributed graph processing platforms have helped emerging application domains use commodity clusters and Clouds to analyze large graphs. Vertex-centric programming models like Google Pregel, and their subgraph-centric variants, specify data-parallel application logic for a single vertex or component that execute iteratively. The locality and balancing of components within partitions affects the performance of such platforms. We propose three partitioning strategies for a subgraph-centric model, and analyze their impact on CPU utilization, communication, iterations, and makespan. We analyze these using Breadth First Search and PageRank algorithms on powerlaw and spatio-planar graphs. They are validated on a commodity cluster using our GoFFish subgraph-centric platform, and compared against Apache Giraph vertex-centric platform. Our experiments show upto 8 times improvement in utilization resulting to upto 5 times improvement of overall makespan for flat and hierarchical partitioning over the default strategy due to improved machine utilization. Further, these also exhibit better horizontal scalability relative to Giraph.

研究动机与目标

• 解决由不良负载均衡和通信开销引起的分布式图处理性能瓶颈。
• 提升以子图为中心的图处理平台中的CPU利用率并减少makespan。
• 评估可提升商品化集群上横向可扩展性和资源利用率的分区策略。
• 在真实工作负载中，将子图为中心的分区与Apache Giraph等顶点为中心的模型进行对比。

提出的方法

• 提出平面式分区，根据顶点度数和连通性将图划分为子图，以实现每台机器的工作量均衡。
• 引入分层式分区，通过递归细分大型子图以减少负载偏差并改善负载分布。
• 设计自适应分区，根据运行时性能指标动态重新分配子图，以维持负载均衡。
• 使用GoFFish平台实现并评估以子图为中心的执行，采用BFS和PageRank等迭代算法。
• 使用幂律图和空间平面图模拟真实工作负载，测量CPU利用率、通信量、迭代次数和makespan等性能指标。
• 与Apache Giraph的顶点为中心模型进行对比，评估可扩展性和效率的提升。

实验结果

研究问题

• RQ1 不同子图分区策略如何影响分布式图处理中的CPU利用率？
• RQ2 与默认策略和顶点为中心策略相比，以子图为中心的分区在多大程度上能减少makespan？
• RQ3 所提出的分区策略如何提升在商品化集群上的横向可扩展性？
• RQ4 分区对迭代图算法中的通信量和迭代次数有何影响？

主要发现

• 平面式和分层式分区使CPU利用率相比默认策略最高提升8倍。
• 与默认方法相比，采用所提分区策略后，makespan最高减少5倍。
• 以子图为中心的方法在所有测试图类型上均展现出优于Apache Giraph的横向可扩展性。
• Breadth-First Search和PageRank工作负载因负载不均衡和通信开销减少而获得显著性能提升。
• 自适应分区在执行过程中维持了高负载均衡，从而带来持续的性能改进。