[论文解读] On the Rate of Convergence of the Power-of-Two-Choices to its Mean-Field Limit

Lei Ying|arXiv (Cornell University)|May 21, 2016

Advanced Queuing Theory Analysis参考文献 11被引用 4

一句话总结

本文研究了在无限服务器排队系统中，两选择策略负载均衡算法向其平均场极限收敛的速率。通过将 Stein 方法与截断平均场模型结合的摄动理论，证明了其在均方意义下的收敛速率为 $ O\bigl((\log M)^3(\log\log M)^2 / M\bigr) $，并将先前结果推广至无限维连续时间马尔可夫链（CTMCs）。

ABSTRACT

This paper studies the rate of convergence of the power-of-two-choices, a celebrated randomized load balancing algorithm for many-server queueing systems, to its mean field limit. The convergence to the mean-field limit has been proved in the literature, but the rate of convergence remained to be an open problem. This paper establishes that the sequence of stationary distributions, indexed by $M,$ the number of servers in the system, converges in mean-square to its mean-field limit with rate $O\left(\frac{(\log M)^3 (\log\log M)^2}{M} ight).$

研究动机与目标

• 量化两选择策略算法在有限但大规模系统中向其平均场极限收敛的速率。
• 将 Stein 方法与摄动理论的应用范围扩展至建模超市排队系统的无限维连续时间马尔可夫链（CTMCs）。
• 为有限系统模型的平稳分布相对于平均场极限建立严格的近似误差界。
• 证明截断平均场模型方法可为可数状态空间的系统提供紧致的收敛速率。

提出的方法

• 构建一个维度为 $ n = \Theta(\log M) $ 的有限维截断动力系统，以近似无限维平均场模型。
• 以 $ \epsilon = 1/M $ 为小参数，围绕平均场解展开摄动，将误差分解为 $ \mathbf{e}(t) $，即与截断模型的偏离量。
• 使用李雅普诺夫函数 $ V(\mathbf{e}(t)) = \sum_{k=1}^n \tilde{w}_k |e_k(t)| $ 分析误差过程的稳定性和衰减速率。
• 应用比较引理并控制转移函数 $ \phi(t, \tau) $ 的界，以控制误差随时间的积分。
• 通过在有限与无限时间区间上积分，结合指数衰减与初始瞬态边界，建立误差过程的 $ L^1 $-范数界。
• 将平均场近似误差（$ O(n^3(\log n)^2 / M) $）与截断误差（$ O(\rho^n n \log n) $）合并，推导出最终的收敛速率。

实验结果

研究问题

• RQ1 在大规模系统中，两选择策略算法的平稳分布向其平均场极限的收敛速率是多少？
• RQ2 能否将 Stein 方法与摄动理论扩展至具有可数状态空间的无限维连续时间马尔可夫链？
• RQ3 截断无限维平均场模型所产生的误差如何随系统规模 $ M $ 变化？
• RQ4 在收敛性分析中，平均场近似误差与截断误差之间存在何种相互作用？

主要发现

• 两选择策略算法的平稳分布以均方意义收敛至其平均场极限，收敛速率为 $ O\bigl((\log M)^3(\log\log M)^2 / M\bigr) $。
• 平均场近似误差被控制在 $ O(n^3(\log n)^2 / M) $ 以内，其中 $ n = \Theta(\log M) $。
• 截断误差被控制在 $ O(\rho^n n \log n) $ 以内，且随 $ n $ 呈指数衰减。
• 通过选择 $ n = \Theta(\log M) $ 平衡两项误差，实现了最优收敛速率。
• 该证明方法将 Stein 方法的应用范围扩展至无限维系统，此前该方法仅适用于有限状态的 CTMCs。
• 分析结果证实，平均场极限能为大规模超市系统平稳行为提供精确的近似。