[论文解读] New Distributed Algorithms in Almost Mixing Time via Transformations from Parallel Algorithms

Mohsen Ghaffari, Jason Li|arXiv (Cornell University)|May 12, 2018

Complexity and Algorithms in Graphs参考文献 2被引用 12

一句话总结

本文提出了一种通用转换方法，可将工作高效的 PRAM 算法转化为小混合时间网络中的分布式算法，在 ${\tau_{\text{mix}}}(G)\cdot n^{o(1)}$ 轮内实现近乎最优性能。该方法适用于最大流近似、最短路径和转运等关键问题，在最坏情况图上绕过已知的下界，并首次为这些问题在良好混合网络中提供了子-√n 轮算法。

ABSTRACT

We show that many classical optimization problems --- such as $(1\pmε)$-approximate maximum flow, shortest path, and transshipment --- can be computed in $ ewcommand{ mix}{τ_{ ext{mix}}} mix(G)\cdot n^{o(1)}$ rounds of distributed message passing, where $ mix(G)$ is the mixing time of the network graph $G$. This extends the result of Ghaffari et al.\ [PODC'17], whose main result is a distributed MST algorithm in $ mix(G)\cdot 2^{O(\sqrt{\log n \log\log n})}$ rounds in the CONGEST model, to a much wider class of optimization problems. For many practical networks of interest, e.g., peer-to-peer or overlay network structures, the mixing time $ mix(G)$ is small, e.g., polylogarithmic. On these networks, our algorithms bypass the $ ildeΩ(\sqrt n+D)$ lower bound of Das Sarma et al.\ [STOC'11], which applies for worst-case graphs and applies to all of the above optimization problems. For all of the problems except MST, this is the first distributed algorithm which takes $o(\sqrt n)$ rounds on a (nontrivial) restricted class of network graphs. Towards deriving these improved distributed algorithms, our main contribution is a general transformation that simulates any work-efficient PRAM algorithm running in $T$ parallel rounds via a distributed algorithm running in $T\cdot mix(G)\cdot 2^{O(\sqrt{\log n})}$ rounds. Work- and time-efficient parallel algorithms for all of the aforementioned problems follow by combining the work of Sherman [FOCS'13, SODA'17] and Peng and Spielman [STOC'14]. Thus, simulating these parallel algorithms using our transformation framework produces the desired distributed algorithms. The core technical component of our transformation is the algorithmic problem of solving \emph{multi-commodity routing}---that is, roughly, routing $n$ packets each from a given source to a given destination---in random graphs. For this problem, we obtain a...

研究动机与目标

• 弥合工作高效并行算法与 CONGEST 模型中分布式计算之间的差距。
• 通过聚焦于混合时间较小的网络，克服最坏情况图上分布式优化的 $\tilde{\Omega}(\sqrt{n}+D)$ 轮下界。
• 开发一种通用转换框架，实现在良好混合图上高效模拟 PRAM 算法的分布式计算。
• 在如对等网络和覆盖网络等实际网络拓扑上，为基本图优化问题实现子-√n 轮复杂度。
• 改进随机图上分布式多商品路由的现状，该方法是主转换的核心。

提出的方法

• 提出一种通用模拟框架，将任何在 $T$ 个并行轮次内运行的工作高效 PRAM 算法，转换为在 $T \cdot {\tau_{\text{mix}}}(G) \cdot 2^{O(\sqrt{\log n})}$ 轮内运行的分布式算法。
• 利用 Sherman、Peng 和 Spielman 的近期工作高效并行算法，用于 SDD 系统、最大流、最短路径和转运问题。
• 设计一种新型分布式多商品路由算法，适用于随机图，运行时间为 $2^{O(\sqrt{\log n})}$ 轮，优于先前的 $2^{O(\sqrt{\log n \log \log n})}$ 轮方法。
• 通过结合随机路由、负载均衡和分布式排序，高效模拟 CONGEST 模型中的 PRAM 内存访问模式。
• 通过每个节点本地使用分布式排序和二分查找重构其输出子图中的关联边，确保输出正确性。
• 通过假设输入和输出数据按比例分布在各节点之间，使最终输出的局部知识成为可能，从而将转换应用于具体问题。

实验结果

研究问题

• RQ1 工作高效 PRAM 算法能否系统性地转换为良好混合网络图上的高效分布式算法？
• RQ2 在混合时间较小的网络上，能否绕过分布式优化的 $\tilde{\Omega}(\sqrt{n}+D)$ 下界？
• RQ3 随机图上多商品路由的最优轮复杂度是多少？能否将其改进至 $2^{O(\sqrt{\log n \log \log n})}$ 以下？
• RQ4 该转换框架能否为最大流和最短路径等基本问题在实际网络拓扑上实现子-√n 轮算法？
• RQ5 是否可能在随机图上实现 $\tilde{O}(1)$ 轮的分布式多商品路由算法，且具有 $\tilde{O}(1)$ 的拥挤度和稀疏度？

主要发现

• 该转换框架实现了 $(1\pm\epsilon)$-近似最大流、最短路径和转运问题的分布式算法，时间复杂度为 ${\tau_{\text{mix}}}(G) \cdot n^{o(1)}$ 轮。
• 对于混合时间为多对数级别的网络（如随机图和对等覆盖网络），算法在 $n^{o(1)}$ 轮内运行，绕过了 $\tilde{\Omega}(\sqrt{n})$ 的下界。
• 首次在非平凡图类上实现了最大流、最短路径和转运问题的子-√n 轮分布式算法。
• 提出了一种新型分布式多商品路由算法，适用于随机图，运行时间为 $2^{O(\sqrt{\log n})}$ 轮，优于先前的 $2^{O(\sqrt{\log n \log \log n})}$ 轮算法。
• 对于 MST 问题，该框架产生了一种改进的算法，运行时间为 ${\tau_{\text{mix}}}(G) \cdot 2^{O(\sqrt{\log n})}$ 轮，与该问题的最佳已知界一致。
• 该框架具有通用性，适用于任何工作高效 PRAM 算法，使得并行算法设计的进展能够被转移到良好混合图的分布式计算场景中。