[论文解读] Dynamic Averaging Load Balancing on Cycles

Dan Alistarh, Giorgi Nadiradze+1 more|arXiv (Cornell University)|Jan 1, 2020

Complexity and Algorithms in Graphs参考文献 10被引用 3

一句话总结

本文提出了一种新型势函数与间隙覆盖技术，用于分析循环图上动态负载均衡问题，其中单位负载被逐步添加，并在随机邻居之间平均分配。研究建立了期望负载最大值与最小值之间差距的上界为 O(√n log n)，实验与分析结果表明该上界在对数因子范围内是紧致的。

ABSTRACT

We consider the following dynamic load-balancing process: given an underlying graph G with n nodes, in each step t≥ 0, one unit of load is created, and placed at a randomly chosen graph node. In the same step, the chosen node picks a random neighbor, and the two nodes balance their loads by averaging them. We are interested in the expected gap between the minimum and maximum loads at nodes as the process progresses, and its dependence on n and on the graph structure. Variants of the above graphical balanced allocation process have been studied previously by Peres, Talwar, and Wieder [Peres et al., 2015], and by Sauerwald and Sun [Sauerwald and Sun, 2015]. These authors left as open the question of characterizing the gap in the case of cycle graphs in the dynamic case, where weights are created during the algorithm’s execution. For this case, the only known upper bound is of 𝒪(n log n), following from a majorization argument due to [Peres et al., 2015], which analyzes a related graphical allocation process. In this paper, we provide an upper bound of 𝒪 (√n log n) on the expected gap of the above process for cycles of length n. We introduce a new potential analysis technique, which enables us to bound the difference in load between k-hop neighbors on the cycle, for any k ≤ n/2. We complement this with a "gap covering" argument, which bounds the maximum value of the gap by bounding its value across all possible subsets of a certain structure, and recursively bounding the gaps within each subset. We provide analytical and experimental evidence that our upper bound on the gap is tight up to a logarithmic factor.

研究动机与目标

• 解决已知上界与下界之间在循环图上动态平均负载均衡中期望负载不平衡性的差距。
• 开发一种新的分析框架，以考虑循环图的结构特性，从而对远距离节点之间的负载差异进行有界控制。
• 为动态、高负载状态下的负载差距渐近行为提供更紧密的理论与实证证据。
• 将分析从规则图扩展至低扩张结构（如循环图），其中先前的界较为松散。

提出的方法

• 引入参数化 k-跳势函数 φk(t) = Σ(xi(t) − xi+k(t))²，用于衡量循环图上相距 k 步的节点之间的负载平方差。
• 建立期望 k-跳势的递归界，证明在循环图上 E[φk(t)] ≤ k(n − k) − 1。
• 提出“间隙覆盖”论证，将最大间隙分解为相距 2k 的节点子集，通过递归方式对每个子集内的间隙进行有界控制。
• 利用递归不等式链证明，最远距离的势函数（k = ⌊n/2⌋）的期望值随时间衰减，从而表明收敛性。
• 应用 Jensen 不等式与凸势函数论证，将 k-跳势的行为与整体间隙关联起来。
• 通过在单位权重增量的循环图上进行实验验证，确认平均间隙的 √n 缩放特性。

实验结果

研究问题

• RQ1 在循环图上的动态平均负载均衡中，期望负载差距的最紧致上界是什么？
• RQ2 能否设计一种新型势函数，以捕捉长距离负载差异，同时尊重循环图的对称性与结构特性？
• RQ3 间隙如何随时间演化？能否通过子集节点的递归分解实现其有界控制？
• RQ4 O(√n log n) 的期望差距上界是否在对数因子范围内是紧致的？
• RQ5 平均化过程中的间隙行为能否通过极大化或概率耦合与双选择负载均衡过程相关联？

主要发现

• 本文在 n 个节点的循环图上，建立了动态平均负载均衡中最大与最小负载之间期望差距的上界为 O(√n log n)。
• k-跳势函数 φk(t) 满足对所有 k ≥ 1 有 E[φk(t)] ≤ k(n − k) − 1，为有界负载不平衡提供了结构性基础。
• 间隙覆盖技术通过分析相距 2 的幂次的节点子集，实现了最大间隙的递归有界控制，从而导致最远距离势函数的衰减。
• 实验结果表明，当增量数量足够大时，平均间隙保持在 √n 的常数因子范围内。
• 期望的间隙平方下界为 Ω(n)，表明 √n 缩放特性是循环图结构的本质属性。
• 作者推测真实期望间隙为 Θ(√n)，且当前上界在对数因子范围内是紧致的。