[论文解读] Load balancing system under Join the Shortest Queue: Many-Server-Heavy-Traffic Asymptotics

Daniela Hurtado-Lange, Siva Theja Maguluri|arXiv (Cornell University)|Apr 9, 2020

Advanced Queuing Theory Analysis参考文献 17被引用 6

一句话总结

本文研究了在多服务器重负载条件下采用排队选择最短队列（JSQ）策略的负载均衡系统，其中总服务速率与总到达速率之差按 $N^{1-\beta}$ 规模缩放，且 $\alpha > 0$。研究证明，当 $\alpha > 4$ 时，归一化平均队列长度收敛于指数分布，并通过拉普拉斯变换与 Stein 方法两种途径证明了状态空间坍缩（SSC），同时给出了 Wasserstein 距离下的显式收敛速率。

ABSTRACT

We study the load balancing system operating under Join the Shortest Queue (JSQ) in the many-server heavy-traffic regime. If $N$ is the number of servers, we let the difference between the total service rate and the total arrival rate be $N^{1-α}$ with $α>0$. We show that for $α>4$ the average queue length behaves similarly to the classical heavy-traffic regime. Specifically, we prove that the distribution of the average queue length multiplied by $N^{1-α}$ converges to an exponential random variable. Moreover, we show a result analogous to state space collapse. We provide two proofs for our result: one using the one-sided Laplace transform, and one using Stein's method. We additionally obtain the rate of convergence in the Wasserstein's distance.

研究动机与目标

• 研究在多服务器重负载条件下，采用最短队列（JSQ）策略的负载均衡系统的稳态行为。
• 刻画当系统接近容量运行时，平均队列长度的渐近分布，其中服务速率与到达速率之差按 $N^{1-\beta}$ 缩放。
• 在极限情况下建立状态空间坍缩（SSC），表明系统行为类似于一维过程。
• 提供两种独立的证明方法——基于单边拉普拉斯变换与 Stein 方法——以证明归一化队列长度的指数极限。
• 量化归一化队列长度在 Wasserstein 距离下收敛于极限分布的速率。

提出的方法

• 将系统建模为具有 $N$ 个服务器的并行服务器排队网络，其中到达流量通过 JSQ 策略被路由至最短队列。
• 引入一种缩放方式，使得服务总速率与到达总速率之差为 $N^{1-\beta}$，其中 $\beta > 0$，以捕捉多服务器重负载情形。
• 使用单边拉普拉斯变换分析归一化平均队列长度的矩生成函数，并推导其收敛于指数分布。
• 应用 Stein 方法证明其在分布上收敛于指数随机变量，并提供非渐近的收敛速率。
• 采用漂移方法与李雅普诺夫漂移论证，建立状态空间坍缩，表明系统状态在极限下集中于一维子空间。
• 利用霍尔德不等式与矩界，推导归一化队列长度与极限指数分布之间 Wasserstein 距离的上界。

实验结果

研究问题

• RQ1 在 JSQ 策略下，当系统接近不稳定状态时，多服务器重负载条件下平均队列长度的极限分布是什么？
• RQ2 当参数 $\alpha$ 变化时，系统行为如何改变，特别是当 $\alpha > 4$ 时？
• RQ3 在此参数范围内能否严格建立状态空间坍缩？其对系统维度的影响是什么？
• RQ4 归一化队列长度收敛于指数极限的速率是多少？如何对其进行量化？
• RQ5 是否可同时使用基于变换的方法与 Stein 方法证明相同的极限？它们各自的优点是什么？

主要发现

• 当 $\alpha > 4$ 时，经 $N^{1-\beta}$ 缩放后的归一化平均队列长度的分布收敛于指数分布。
• 本文建立了一个类似于状态空间坍缩的结果，表明系统状态在极限下集中于一维子空间。
• 提供了两种独立的证明：一种基于单边拉普拉斯变换，另一种基于 Stein 方法，两者均确认了指数极限的存在。
• 在 Wasserstein 距离下的收敛速率被量化，误差项以 $O(N^{4-2\alpha + (1-\alpha)/p})$ 的形式衰减，当 $p$ 接近 1 时，该表达式为 $o(N^{1-2\alpha})$，当 $\alpha > 4$ 时成立。
• 分析表明，经典重负载行为仅在 $\alpha > 4$ 时出现，揭示了系统行为中的相变现象。
• 通过霍尔德不等式与矩界，推导出内积 $\mathbb{E}[\langle \overline{\mathbf{q}}_{\parallel}, \overline{\mathbf{u}}_{\parallel} \rangle]$ 的上界，最优参数 $r$ 选取为 $r = \lceil \alpha - 1 \rceil \lceil \log N \rceil$，以最小化误差项。