[论文解读] Tight Bounds for Parallel Randomized Load Balancing

Christoph Lenzen, Roger Wattenhofer|arXiv (Cornell University)|Feb 26, 2011

Distributed systems and fault tolerance参考文献 35被引用 27

一句话总结

该论文提出了一种自适应、对称的并行算法来解决球入箱问题，该算法在使用 $\mathcal{O}(n)$ 条消息的情况下，于 $\log^{*}n + \mathcal{O}(1)$ 轮内实现最大箱负载为二。在相同的消息和对称性约束下，该工作建立了时间复杂度的匹配下界 $(1-o(1))\log^{*}n$，并通过一种新颖的基于通信量的证明技术证明了该边界的紧致性。

ABSTRACT

We explore the fundamental limits of distributed balls-into-bins algorithms. We present an adaptive symmetric algorithm that achieves a bin load of two in log* n+O(1) communication rounds using O(n) messages in total. Larger bin loads can be traded in for smaller time complexities. We prove a matching lower bound of (1-o(1))log* n on the time complexity of symmetric algorithms that guarantee small bin loads at an asymptotically optimal message complexity of O(n). For each assumption of the lower bound, we provide an algorithm violating it, in turn achieving a constant maximum bin load in constant time. As an application, we consider the following problem. Given a fully connected graph of n nodes, where each node needs to send and receive up to n messages, and in each round each node may send one message over each link, deliver all messages as quickly as possible to their destinations. We give a simple and robust algorithm of time complexity O(log* n) for this task and provide a generalization to the case where all nodes initially hold arbitrary sets of messages. A less practical algorithm terminates within asymptotically optimal O(1) rounds. All these bounds hold with high probability.

研究动机与目标

• 为在有界消息复杂度下，对称的、非自适应并行球入箱算法的上下界之间存在的差距提供填补。
• 确定在协调必须为并行且箱子为匿名的分布式系统中，负载均衡的根本限制。
• 证明在相同约束条件下，自适应性可显著加快收敛速度，优于非自适应方案。
• 在各种假设（包括箱子标记和消息数量）下，对球入箱问题的并行复杂度进行全面分类。
• 将结果应用于具有 $n$ 个节点的全连接网络中的实际负载均衡问题，每个节点发送和接收最多 $n$ 条消息。

提出的方法

• 提出一种自适应对称算法 ($\mathcal{A}(l)$)，其中球通过分层结构与随机箱子交互并协调，以减少负载不平衡。
• 采用递归协调机制，由协调者负责 $\ell(b)$ 个箱子，球选择 $\ell(b)$ 值最大的箱子以最小化负载。
• 采用两阶段方法：第一阶段通过概率消息交换为部分箱子分配协调者；第二阶段，球利用协调者反馈选择低负载箱子。
• 使用切尔诺夫不等式和集中不等式来限制消息数量和失败概率，确保高概率保证。
• 提出一种基于总通信量而非信息收集或容错性的新型下界证明技术。
• 将结果推广至消息数为 $\omega(n)$ 的情形，使得在放宽消息约束下可实现常数时间算法。

实验结果

研究问题

• RQ1 在保证常数级箱负载且使用 $\mathcal{O}(n)$ 条消息的前提下，对称自适应算法可实现的最小时间复杂度是多少？
• RQ2 箱子的匿名性如何影响并行负载均衡的根本限制？
• RQ3 在相同的消息和对称性约束下，自适应性是否能显著降低时间复杂度，相比非自适应方案？
• RQ4 在实现低箱负载的并行随机负载均衡中，消息复杂度与时间复杂度之间的权衡是什么？
• RQ5 理论结果如何应用于具有高并发性和带宽限制的实际分布式系统？

主要发现

• 自适应对称算法在 $\log^{*}n + \mathcal{O}(1)$ 轮内以 $\mathcal{O}(n)$ 条消息实现最大箱负载为二，与理论下界完全匹配。
• 证明了对称算法在 $\mathcal{O}(n)$ 条消息下存在匹配下界 $(1-o(1))\log^{*}n$，表明该算法渐近最优。
• 该下界源于通信量约束，而非信息收集或容错性，因此需要一种全新的证明技术。
• 当箱子具有全局标记时，存在一种使用 $\mathcal{O}(n)$ 条消息的常数时间算法，最大箱负载为三，表明箱子匿名性是下界成立的关键因素。
• 对于 $\omega(n)$ 条消息，存在一种常数时间算法，使用 $\mathcal{O}(n\log^{(r)}n)$ 条消息，可在 $r + \mathcal{O}(1)$ 轮内实现 $\mathcal{O}(1)$ 的箱负载，其中 $r \in \mathbb{N}$ 为任意自然数。
• 将结果应用于网络负载均衡问题：所有 $n^2$ 条消息可在 $\mathcal{O}(\log^{*}n)$ 轮内以高概率完成，与理论边界一致。