[论文解读] Minor Sparsifiers and the Distributed Laplacian Paradigm

Sebastian Forster, Gramoz Goranci+4 more|arXiv (Cornell University)|Dec 31, 2020

Complexity and Algorithms in Graphs参考文献 102被引用 6

一句话总结

本论文在 CONGEST 模型中首次提出了精确的分布式拉普拉斯求解器，其轮复杂度为 $O(n^{o(1)}(\bar{n}^{1/2} + D))$，几乎达到 $\widetilde{\Omega}(\bar{n}^{1/2} + D)$ 的下界。通过利用基于子图的顶点稀疏化方法，以及一种新颖的基于近似杠杆度分数和矩阵鞅的谱子空间稀疏化方法的分布式实现，该方法实现了稀疏有向图上最小费用最大流、负权最短路径、最大流和二分匹配等关键问题的亚线性轮次精确算法。

ABSTRACT

We study distributed algorithms built around minor-based vertex sparsifiers, and give the first algorithm in the CONGEST model for solving linear systems in graph Laplacian matrices to high accuracy. Our Laplacian solver has a round complexity of $O(n^{o(1)}(\sqrt{n}+D))$, and thus almost matches the lower bound of $\widetildeΩ(\sqrt{n}+D)$, where $n$ is the number of nodes in the network and $D$ is its diameter. We show that our distributed solver yields new sublinear round algorithms for several cornerstone problems in combinatorial optimization. This is achieved by leveraging the powerful algorithmic framework of Interior Point Methods (IPMs) and the Laplacian paradigm in the context of distributed graph algorithms, which entails numerically solving optimization problems on graphs via a series of Laplacian systems. Problems that benefit from our distributed algorithmic paradigm include exact mincost flow, negative weight shortest paths, maxflow, and bipartite matching on sparse directed graphs. For the maxflow problem, this is the first exact distributed algorithm that applies to directed graphs, while the previous work by [Ghaffari et al. SICOMP'18] considered the approximate setting and works only for undirected graphs. For the mincost flow and the negative weight shortest path problems, our results constitute the first exact distributed algorithms running in a sublinear number of rounds. Given that the hybrid between IPMs and the Laplacian paradigm has proven useful for tackling numerous optimization problems in the centralized setting, we believe that our distributed solver will find future applications.

研究动机与目标

• 在 CONGEST 模型中设计一种具有近似最优轮复杂度的分布式拉普拉斯系统求解器。
• 将拉普拉斯范式与内点法扩展至分布式环境，以精确求解图优化中的基础问题。
• 设计一种基于子图约化和近似杠杆度分数的谱子空间稀疏化方法的分布式实现，避免昂贵的随机生成树采样。
• 在有向图上实现负权最短路径和最大流等关键问题的亚线性轮次精确算法。
• 通过一种新的技术框架，减少在加权图上模拟随机游走时的通信拥塞，以实现高效的分布式子图构建。

提出的方法

• 利用 Li 和 Schild（FOCS'18）提出的谱子空间稀疏化方法的分布式变体，构建基于子图的顶点稀疏化器，将随机生成树采样替换为近似杠杆度分数。
• 采用矩阵鞅分析方法，证明即使使用近似杠杆度分数，所得稀疏化器仍能保持高质量的谱近似。
• 通过基于树和消去法的预条件器，递归地进行顶点和边的压缩，以在保持拉普拉斯系统结构的同时压缩图结构。
• 利用短随机游走构建基于消去法的预条件器，并引入一种拥塞减少技术，以高效模拟加权图上的这些游走。
• 将稀疏化的子图与舒尔补链相结合，以在 CONGEST 模型中高效求解拉普拉斯系统。
• 将所得求解器作为构建模块，集成至内点法中，从而在亚线性轮次内实现流问题和匹配问题的精确解。

实验结果

研究问题

• RQ1 能否在 CONGEST 模型中设计出具有近似最优轮复杂度的分布式拉普拉斯系统求解器？
• RQ2 能否将拉普拉斯范式扩展至分布式环境，以求解最小费用最大流和最大流等精确优化问题？
• RQ3 是否可能在分布式环境中实现谱子空间稀疏化，而无需采样随机生成树？
• RQ4 能否在 CONGEST 模型中实现负权最短路径和有向最大流问题的亚线性轮次精确算法？
• RQ5 在基于子图的分布式子图构建中，如何减少在加权图上模拟随机游走时的通信拥塞？

主要发现

• 所提出的拉普拉斯求解器实现了 $O(n^{o(1)}(\bar{n}^{1/2} + D))$ 的轮复杂度，几乎达到已知下界 $\widetilde{\Omega}(\bar{n}^{1/2} + D)$。
• 首次实现了有向图上的最大流精确分布式算法，填补了以往研究仅限于无向图和近似设置的空白。
• 首次开发出最小费用最大流和负权最短路径问题的精确亚线性轮次分布式算法，这两个问题在精确分布式设置下此前均未解决。
• 通过近似杠杆度分数实现的谱子空间稀疏化方法的分布式实现，保持了高质量的近似效果，其有效性通过矩阵鞅分析得到证明。
• 提出了一种新的拥塞减少技术，可在基于子图的分布式模型中高效模拟加权图上的短随机游走。
• 该框架通过 IPM-Laplacian 范式，实现了对多个核心问题（包括二分匹配和精确流问题）的亚线性轮次求解。