[论文解读] Finding Connected Components on Map-reduce in Logarithmic Rounds

Vibhor Rastogi, Ashwin Machanavajjhala+2 more|arXiv (Cornell University)|Mar 24, 2012

Graph Theory and Algorithms参考文献 14被引用 4

一句话总结

该论文提出了两种新颖的Map-Reduce算法——Hash-Greater-to-Min和Hash-to-Min，用于在大型图中以对数轮次计算连通分量。通过利用随机哈希和二级排序来高效管理聚类合并，两种算法均实现了$O(\log n)$轮次和每轮线性通信量，实际性能显著优于先前方法，尤其在数据偏差较高和内存受限的情况下表现更优。

ABSTRACT

Given a large graph G = (V,E) with millions of nodes and edges, how do we compute its connected components efficiently? Recent work addresses this problem in map-reduce, where a fundamental trade-off exists between the number of map-reduce rounds and the communication of each round. Denoting d the diameter of the graph, and n the number of nodes in the largest component, all prior map-reduce techniques either require d rounds, or require about n|V| + |E| communication per round. We propose two randomized map-reduce algorithms -- (i) Hash-Greater-To-Min, which provably requires at most 3log(n) rounds with high probability, and at most 2(|V| + |E|) communication per round, and (ii) Hash-to-Min, which has a worse theoretical complexity, but in practice completes in at most 2log(d) rounds and 3(|V| + |E|) communication per rounds. Our techniques for connected components can be applied to clustering as well. We propose a novel algorithm for agglomerative single linkage clustering in map-reduce. This is the first algorithm that can provably compute a clustering in at most O(log(n)) rounds, where n is the size of the largest cluster. We show the effectiveness of all our algorithms through detailed experiments on large synthetic as well as real-world datasets.

研究动机与目标

• 解决Map-Reduce中连通分量计算的轮次数量与通信成本之间的基本权衡问题。
• 设计高效且可扩展的Map-Reduce算法，确保在$O(\log n)$轮次内完成计算，且每轮通信量较低，即使在存在极大连通分量的图中亦然。
• 通过避免在合并过程中完整物化整个聚类，克服大规模图处理中的内存和数据偏差问题。
• 将所提出的技术扩展至单链凝聚聚类，首次实现在Map-Reduce中以$O(\log n)$轮次完成单链凝聚聚类。
• 通过实验表明，在共享且拥塞的集群环境中，所提算法优于现有的Map-Reduce和BSP方法。

提出的方法

• 在Hash-Greater-to-Min中使用随机哈希策略，模拟PRAM算法，确保每个聚类仅被复制一次，从而最小化通信量。
• 在Map-Reduce中使用二级排序，以保持每个聚类键对应的已排序节点列表，从而在聚类合并过程中实现内存中的重复项移除，而无需完整物化聚类。
• 应用来自PRAM文献的指针加倍技术，以在对数轮次内高效传播图距离上的聚类ID。
• 提出Hash-to-Min这一新算法，其在路径图上可证明在$O(\log n)$轮次内终止，采用新颖但非紧致的证明技术。
• 通过设计Hash-to-All和Hash-to-Min的变体，将框架扩展至聚类，实现单链凝聚聚类，采用类似的合并与排序策略。
• 采用混合方法：映射器输出带有聚类ID的节点，归约器合并已排序的节点列表以移除重复项，聚类ID通过迭代方式传播。

实验结果

研究问题

• RQ1 是否可以在仅使用$O(\log n)$轮次的同时，保持每轮线性通信量，实现Map-Reduce中的连通分量计算？
• RQ2 如何在不将整个聚类物化于内存中的情况下，高效处理Map-Reduce中极大的连通分量？
• RQ3 是否能够改进现有$\Theta(d)$轮次或$\Theta(n|V|+|E|)$通信量的Map-Reduce算法在连通分量计算中的性能？
• RQ4 是否可能设计一种Map-Reduce聚类算法，使单链凝聚聚类在$O(\log n)$轮次内完成？
• RQ5 在共享且拥塞的集群工作负载下，Map-Reduce与批量同步并行（BSP）模型在可扩展性方面有何比较？

主要发现

• Hash-to-Min在实践中最多耗时$2\log d$轮，每轮通信量为$3(|V|+|E|)$，尽管理论界紧致性较弱，但实际性能优于Hash-Greater-to-Min。
• 该算法在路径图上实现$O(\log n)$轮次，采用新颖的证明技术，虽非紧致但能准确捕捉实际行为。
• 实验表明，Hash-to-Min在合成数据集和真实数据集（如MovieW和BizW）上均快于Hash-Greater-to-Min。
• 在共享且拥塞的集群中，使用Hash-to-Min的Map-Reduce比BSP（如Giraph）更具可扩展性，例如mr-15耗时约20分钟，而bsp-15耗时超过一小时，原因在于BSP缺乏作业级并行性。
• 二级排序的使用使得在聚类合并过程中能高效移除重复项，而无需物化完整聚类，从而解决了内存和偏差问题。
• 本文首次提出在$O(\log n)$轮次内完成的Map-Reduce单链凝聚聚类算法，Hash-to-Min被推测需$O(\log d)$轮次和每轮$O(|V|+|E|)$通信量。