[论文解读] Greedy Sequential Maximal Independent Set and Matching are Parallel on Average

Guy E. Blelloch, Jeremy T. Fineman+1 more|arXiv (Cornell University)|Feb 15, 2012

Complexity and Algorithms in Graphs被引用 15

一句话总结

该论文表明，当顶点/边的顺序随机化时，最大独立集（MIS）和最大匹配（MM）的贪心序列算法可实现多对数深度，从而实现高效的并行化。通过并行处理顺序的前缀，该方法在保持线性工作量的同时实现高加速比（在32个核心上达到14–24倍），并确定性地重现字典序最小的MIS/MM解。

ABSTRACT

The greedy sequential algorithm for maximal independent set (MIS) loops over the vertices in arbitrary order adding a vertex to the resulting set if and only if no previous neighboring vertex has been added. In this loop, as in many sequential loops, each iterate will only depend directly on a subset of the previous iterates (i.e. knowing that any one of a vertices neighbors is in the MIS or knowing that it has no previous neighbors is sufficient to decide its fate). This leads to a dependence structure among the iterates. If this structure is shallow then running the iterates in parallel while respecting the dependencies can lead to an efficient parallel implementation mimicking the sequential algorithm. In this paper, we show that for any graph, and for a random ordering of the vertices, the dependence depth of the sequential greedy MIS algorithm is polylogarithmic (O(log^2 n) with high probability). Our results extend previous results that show polylogarithmic bounds only for random graphs. We show similar results for a greedy maximal matching (MM). For both problems we describe simple linear work parallel algorithms based on the approach. The algorithms allow for a smooth tradeoff between more parallelism and reduced work, but always return the same result as the sequential greedy algorithms. We present experimental results that demonstrate efficiency and the tradeoff between work and parallelism.

研究动机与目标

• 为解决传统并行MIS和MM算法效率低下的问题，这些算法通常仅在大规模系统上才优于串行版本。
• 证明当顶点/边的顺序随机化时，简单的贪心串行MIS和MM算法可被高效并行化。
• 提供一种确定性的并行实现，其结果与串行贪心算法一致（即字典序最小的MIS/MM），同时实现高并行度与低工作量。
• 通过基于前缀的调度建立工作量与并行度之间的平滑权衡，实现在适度处理器数量下的实际性能提升。

提出的方法

• 按随机顺序处理顶点（MIS）或边（MM），并对顺序的每个前缀并行执行贪心算法。
• 对于每个前缀，仅考虑其之前邻居（在顺序中）尚未被纳入解的顶点/边，以确保正确性与数据独立性。
• 使用粒度大小（例如256）来管理并行粒度，在达到阈值时从串行切换到并行执行。
• 使用概率方法分析贪心算法的依赖长度，证明在随机顺序下，任意图的依赖长度以高概率为O(log²n)。
• 修改MIS算法以隐式处理线图用于MM，避免显式构建线图，从而保持线性工作量。
• 实现一种基于前缀的并行框架，允许通过调整前缀大小来平衡工作量与深度，理论证明在最优前缀大小下可实现线性工作量。

实验结果

研究问题

• RQ1 贪心串行MIS算法是否可对任意图实现高效并行化，而不仅限于随机图？
• RQ2 在随机顶点顺序下，贪心MIS算法的依赖长度是多少？其是否呈多对数规模增长？
• RQ3 贪心MIS和MM算法的并行实现能否在保持与串行算法相同结果的同时实现线性工作量？
• RQ4 前缀大小的选择在实践中如何影响总工作量、并行度与运行时间之间的权衡？
• RQ5 所提方法是否能在适度的处理器数量下超越串行实现以及Luby等现有并行算法的性能？

主要发现

• 对于任意图和随机顶点顺序，贪心MIS算法的依赖长度以高概率为O(log²n)，从而支持多对数并行深度。
• 所提出的基于前缀的并行算法在32个处理器上实现14–17倍加速比（MIS）和21–24倍加速比（MM），优于仅使用4–32个核心的串行版本。
• 基于前缀的MIS实现比Luby算法在32个核心上快4–8倍，原因在于减少了冗余工作且无需在各轮之间重新分配优先级。
• 只要遵守依赖关系，该算法可保证确定性结果，无论执行调度如何，确保串行与并行运行的一致性。
• 通过实验确定，最小化工作量与运行时间的最优前缀大小为输入大小的10⁻⁶至10⁻⁴之间，性能提升源于从串行到并行的循环切换。
• 该方法可推广至其他贪心串行算法，表明其在并行算法设计中具有更广泛的应用潜力。