[论文解读] Further Algebraic Algorithms in the Congested Clique Model and Applications to Graph-Theoretic Problems

François Le Gall|arXiv (Cornell University)|Aug 9, 2016

Complexity and Algorithms in Graphs参考文献 28被引用 5

一句话总结

本文提出了一套新的代数算法，适用于汇聚冲突模型（congested clique），实现了对多个矩阵乘积、行列式、秩、逆矩阵以及线性系统的高效计算。通过块分解与随机化矩阵技术，该方法在计算 k 个矩阵乘积时实现了次线性轮数复杂度，从而为所有点对最短路径、直径计算以及图分解（如 Gallai-Edmonds 分解和二分图中的最小点覆盖）提供了更高效的算法。

ABSTRACT

Censor-Hillel et al. [PODC'15] recently showed how to efficiently implement centralized algebraic algorithms for matrix multiplication in the congested clique model, a model of distributed computing that has received increasing attention in the past few years. This paper develops further algebraic techniques for designing algorithms in this model. We present deterministic and randomized algorithms, in the congested clique model, for efficiently computing multiple independent instances of matrix products, computing the determinant, the rank and the inverse of a matrix, and solving systems of linear equations. As applications of these techniques, we obtain more efficient algorithms for the computation, again in the congested clique model, of the all-pairs shortest paths and the diameter in directed and undirected graphs with small weights, improving over Censor-Hillel et al.'s work. We also obtain algorithms for several other graph-theoretic problems such as computing the number of edges in a maximum matching and the Gallai-Edmonds decomposition of a simple graph, and computing a minimum vertex cover of a bipartite graph.

研究动机与目标

• 开发先进的代数技术，将集中式矩阵算法的应用范围扩展至汇聚冲突模型。
• 通过支持多个独立的矩阵乘积和矩形矩阵（而不仅限于单个方阵乘法），克服先前工作的局限性。
• 为所有点对最短路径、直径、最大匹配和点覆盖等基础图论问题设计高效的分布式算法。
• 通过汇聚冲突模型中新型并行化策略，实现对矩阵乘积数量 k 的次线性依赖。
• 使用随机化矩阵代数，在分布式环境中实现 Gallai-Edmonds 分解及相关图问题的高效计算。

提出的方法

• 在计算 k 个矩阵乘积时，将 n 个节点的网络划分为 k 个组，将每个块分配给一个计算单元，使用最佳集中式矩阵乘法算法的分布式版本来计算一个乘积。
• 通过在有限域 F = Z_p 中对矩阵变量进行随机替换，利用扩展矩阵的秩条件来检测非临界顶点。
• 使用随机三角 Toeplitz 矩阵和矩阵求逆，构造随机 Tutte 矩阵的右零空间基，以识别非临界顶点。
• 利用先前工作中提出的逆矩阵和矩阵乘法算法，在高概率下以 O(n^{1-1/ω}) 轮完成零空间基的计算。
• 通过单位矩阵与零空间基矩阵的乘积，逐行测试 e_i M ≠ 0，利用秩的增加来识别非临界顶点。
• 通过已知的归约方法，将最小点覆盖和最大匹配等图问题归约为 Gallai-Edmonds 分解，然后在汇聚冲突模型中高效实现。

实验结果

研究问题

• RQ1 在汇聚冲突模型中，多个独立的矩阵乘积能否比 k 次单个矩阵乘法的串行应用更高效地计算？
• RQ2 在汇聚冲突模型中，矩形矩阵乘法和秩计算如何实现高效的并行化？
• RQ3 能否使用代数技术在汇聚冲突模型中以次线性轮数计算 Gallai-Edmonds 分解？
• RQ4 在汇聚冲突模型中，使用代数方法计算所有点对最短路径和图直径的轮数复杂度是多少？
• RQ5 能否使用随机化矩阵代数在汇聚冲突模型中以低通信开销求解最大匹配和最小点覆盖等组合图论问题？

主要发现

• 当 k < n 时，该算法在计算 k 个独立的 n×n 矩阵乘积时，实现了 O(k^{2/ω} n^{1-2/ω}) 轮复杂度，优于朴素的 O(k n^{1-2/ω}) 方法。
• 当 k ≥ n 时，轮数复杂度降低至 O(k)，表明在 k 较大时，其依赖关系为线性。
• 该算法在 Õ(n^{1-1/ω}) 轮内完成 Gallai-Edmonds 分解的计算，从而可高效求解二分图中的最小点覆盖问题。
• 通过随机化矩阵替换和零空间基计算，该方法实现了 O(n^{1-1/ω}) 轮复杂度，用于计算非临界顶点集合 D(G)。
• 该方法在具有小整数权重的图中，实现了所有点对最短路径和直径计算的轮数复杂度改进。
• 该工作通过支持矩形矩阵和多个乘积，扩展了 Censor-Hillel 等人先前的研究，使算法可更广泛地应用于图论问题。