[论文解读] Join the Shortest Queue with Many Servers. The Heavy Traffic Asymptotics

Patrick Eschenfeldt, David Gamarnik|arXiv (Cornell University)|Feb 3, 2015

Advanced Queuing Theory Analysis参考文献 13被引用 13

一句话总结

本文在半斯-惠特重载极限下分析了大规模排队系统中的接入最短队列（JSQ）策略。通过局部鞅方法和弱收敛，证明了经缩放的空闲服务器数量和仅有一个等待客户的队列会收敛到一个二维反射奥恩斯坦-乌伦贝克过程，而更长的队列在固定时间内消失。关键结果是等待时间保持常数阶，但仅有一小部分客户需要等待，从而保持了近乎最优的效率。

ABSTRACT

We consider queueing systems with n parallel queues under a Join the Shortest Queue (JSQ) policy in the Halfin-Whitt heavy traffic regime. We use the martingale method to prove that a scaled process counting the number of idle servers and queues of length exactly 2 weakly converges to a two-dimensional reflected Ornstein-Uhlenbeck process, while processes counting longer queues converge to a deterministic system decaying to zero in constant time. This limiting system is comparable to that of the traditional Halfin-Whitt model, but there are key differences in the queueing behavior of the JSQ model. In particular, only a vanishing fraction of customers will have to wait, but those who do will incur a constant order waiting time.

研究动机与目标

• 分析在半斯-惠特重载极限下，大规模并行排队系统中接入最短队列（JSQ）策略的瞬态行为。
• 刻画当服务器数量 $ n $ 趋于无穷时，空闲服务器数量和恰好有一个等待客户的队列数的极限行为。
• 证明在JSQ策略下，长度为2或以上的队列即使初始存在，也会在固定时间内衰减至零。
• 量化系统中累积等待时间与单个客户等待时间，尤其关注瞬态阶段的行为。
• 建立缩放系统到具有唯一解的扩散过程的弱收敛性，从而支持渐近分析。

提出的方法

• 作者使用局部鞅方法分析重载条件下 $M/M/n$-JSQ 系统的流体极限与扩散极限。
• 引入 $M/M/n$-JSQ 系统的截断版本，其中禁止队列长度超过2，从而实现有限维分析。
• 证明了计数空闲服务器与长度为1的队列的缩放过程弱收敛至二维反射奥恩斯坦-乌伦贝克过程。
• 证明了计数长度 ≥2 的队列的过程收敛至一个衰减至零的确定性系统，且衰减时间固定。
• 通过不动点论证，建立了极限随机积分方程的存在性与唯一性。
• 证明的关键在于：当 $ n \to \infty $ 时，击中截断边界的可能性趋于零，从而保证了截断系统与原系统的渐近等价性。

实验结果

研究问题

• RQ1 在半斯-惠特极限下，JSQ策略中空闲服务器数量和仅有一个等待客户的队列数如何演化？
• RQ2 当 $ n \to \infty $ 时，$M/M/n$-JSQ 系统中长度为2或以上的队列的极限行为是什么？
• RQ3 在JSQ策略下，客户等待时间的渐近分布是什么？
• RQ4 累积等待时间如何随 $ n $ 变化？瞬态阶段下单个客户的等待时间如何？
• RQ5 第 $ n $ 个系统的稳态分布是否收敛至极限扩散过程的稳态分布？

主要发现

• 经缩放的空闲服务器数量与仅有一个等待客户的队列数弱收敛至二维反射奥恩斯坦-乌伦贝克过程。
• 长度为2或以上的队列在固定时间内衰减至零，且不会重新出现，即使初始存在。
• 在时间区间 $[0,t]$ 内，累积等待时间以高概率为 $O(\sqrt{n})$，意味着单个客户的等待时间为 $O(1/\sqrt{n})$。
• 经历等待时间的客户比例为 $O(1/\sqrt{n})$，即仅有一小部分客户需要等待。
• 需要等待的客户经历常数阶等待时间，其分布为速率1的指数分布，原因在于已有客户的服务时间。
• 极限系统与半斯-惠特模型类似，但表现出不同的排队行为：等待时间损失极小，但仍有小部分客户面临非零等待时间。