[论文解读] FastSV: A Distributed-Memory Connected Component Algorithm with Fast Convergence

Yongzhe Zhang, Ariful Azad+1 more|arXiv (Cornell University)|Oct 14, 2019

Graph Theory and Algorithms参考文献 28被引用 4

一句话总结

FastSV 是一种高性能、可扩展的分布式内存算法，用于在大规模无向图中计算连通分量，通过利用 GraphBLAS 的简化线性代数运算以及新颖的钩子策略来加速收敛。它在 Cray XC40 上使用 262K 个核心仅用 30 秒即处理了包含 1340 亿条边的超链接图，相比先前的最先进算法 LACC 平均实现了 2.21 倍的加速。

ABSTRACT

This paper presents a new distributed-memory algorithm called FastSV for finding connected components in an undirected graph. Our algorithm simplifies the classic Shiloach-Vishkin algorithm and employs several novel and efficient hooking strategies for faster convergence. We map different steps of FastSV to linear algebraic operations and implement them with the help of scalable graph libraries. FastSV uses sparse operations to avoid redundant work and optimized MPI communication to avoid bottlenecks. The resultant algorithm shows high-performance and scalability as it can find the connected components of a hyperlink graph with over 134B edges in 30 seconds using 262K cores on a Cray XC40 supercomputer. FastSV outperforms the state-of-the-art algorithm by an average speedup of 2.21x (max 4.27x) on a variety of real-world graphs.

研究动机与目标

• 设计一种更快、可扩展的分布式内存算法，用于大规模图中的连通分量计算。
• 通过去除冗余步骤来简化 Shiloach-Vishkin 算法，同时保持快速收敛。
• 通过动态使用稀疏运算和高效的 MPI 通信来优化性能。
• 在拥有数十万核心的超级计算平台上实现高可扩展性。
• 在运行时间和可扩展性方面超越现有最先进算法（如 LACC 和 ParConnect）

提出的方法

• FastSV 通过仅保留两个核心步骤（条件树钩子和捷径化）来简化 Shiloach-Vishkin 算法。
• 将这些步骤映射到 GraphBLAS 操作，利用稀疏矩阵-向量乘法（SpMV）和稀疏矩阵-稀疏向量乘法（SpMSpV）以提高效率。
• 根据“祖父母向量”的变化动态选择 SpMV 或 SpMSpV，以减少冗余计算。
• 采用优化的 MPI 通信模式，避免在分布式内存执行中的瓶颈。
• 引入新颖的钩子策略以加速收敛，减少所需迭代次数。
• 实现中使用 CombBLAS 支持分布式内存平台，并与 SuiteSparse:GraphBLAS 集成以支持共享内存

实验结果

研究问题

• RQ1 简化版的 Shiloach-Vishkin 算法是否能在分布式内存系统中实现更快的收敛和更好的性能？
• RQ2 如何有效利用 GraphBLAS 操作在大规模场景下表达和优化连通分量算法？
• RQ3 动态操作选择（SpMV 与 SpMSpV）和通信优化对大规模图性能有何影响？
• RQ4 新颖的钩子策略是否能减少迭代次数而不牺牲正确性或可扩展性？
• RQ5 FastSV 在真实世界和合成图上与最先进算法 LACC 相比，在性能和可扩展性方面表现如何？

主要发现

• FastSV 在 Cray XC40 超级计算机上使用 262,144 个核心，仅用 30 秒即计算出一个包含 1340 亿条边的超链接图的连通分量。
• 在多种真实世界图上，FastSV 相较于先前最先进算法 LACC 平均实现了 2.21 倍（最高达 4.27 倍）的加速。
• 动态选择 SpMV/SpMSpV 显著减少了后期迭代的运行时间，尤其在高密度图中效果明显。
• FastSV 简化的逻辑和优化的通信机制实现了高可扩展性，尽管因去除了无条件钩子而需要更多迭代，但仍优于 LACC。
• 该算法具有通用性和可移植性，支持分布式内存（CombBLAS）和共享内存（SuiteSparse:GraphBLAS）平台。
• FastSV 在包含最多 32.7 亿个顶点和 1249 亿条边的图上表现出强劲性能，证实其已具备处理百亿亿级数据工作负载的能力。