[论文解读] Simple and explicit bounds for multi-server queues with universal 1 / (1 - rho) scaling

David A. Goldberg, Yuan Li|arXiv (Cornell University)|Jun 14, 2017

Advanced Queuing Theory Analysis参考文献 57被引用 6

一句话总结

该论文首次为多服务器队列（GI/GI/n）建立了简单且显式的界，其缩放特性普遍为 1/(1−ρ)，其中 ρ 为流量强度，从而解决了数十年来的开放问题。通过分析 Gamarnik 和 Goldberg 的随机比较界，推导出队列长度和延迟概率的尾部衰减速率，其依赖于到达时间和服务时间分布的有限矩数量。

ABSTRACT

We consider the FCFS GI/GI/n queue, and prove the first simple and explicit bounds that scale gracefully and universally as 1 / (1 - rho) (and better), with rho the corresponding traffic intensity. In particular, we prove the first multi-server analogue of Kingman's bound, which has been an open problem for over fifty years. Our main results are bounds for the tail of the steady-state queue length and the steady-state probability of delay, where the strength of our bounds (e.g. in the form of tail decay rate) is a function of how many moments of the inter-arrival and service distributions are assumed finite. Supposing that the inter-arrival and service times, distributed as random variables A and S, have finite rth moment for some r > 2, our bounds are simple and explicit functions of only the normalized rth moments of A and S, r, and 1 / (1 - rho). Our simple and explicit bounds scale gracefully even when the number of servers grows large and the traffic intensity converges to unity simultaneously, as in the Halfin-Whitt scaling regime. Our proofs proceed by explicitly analyzing the bounding process which arises in the stochastic comparison bounds of Gamarnik and Goldberg for multi-server queues. Along the way we derive several novel results for suprema of random walks with stationary increments and negative drift, pooled renewal processes, and various other quantities which may be of independent interest.

研究动机与目标

• 解决长期存在的开放问题：为多服务器队列推导出简单且显式的界，使其在流量强度趋近于 1 时具有良好的缩放特性。
• 提供 Kingman 于 1962 年提出的单服务器队列界在多服务器系统中的首个类比，将其实现为通用的 1/(1−ρ) 缩放特性。
• 建立稳态队列长度尾部和延迟概率的界，明确依赖于到达时间和服务时间分布的有限矩数量。
• 确保这些界在 Halfin-Whitt 缩放情形下依然有效且可解释，即服务器数量 n 和流量强度 ρ 同时增长。
• 开发用于带负漂移的随机游走上确界和合并更新过程的新分析工具，支持主要结果，并可能具有独立兴趣。

提出的方法

• 利用 Gamarnik 和 Goldberg 的随机比较界，构建 GI/GI/n 队列的上界过程。
• 通过基于矩的上确界界分析上界过程的尾部行为，针对具有负漂移的平稳增量随机游走。
• 基于到达时间和服务时间分布的归一化 r 阶矩（r > 2）推导出显式尾部衰减速率表达式。
• 使用合并与更新过程分解技术，在高负载条件下控制上界过程的行为。
• 应用集中与矩不等式，以界稳态队列长度和延迟的概率尾部。
• 确保所有界均为仅依赖于归一化 r 阶矩 A 和 S、r 和 1/(1−ρ) 的显式函数，从而支持直接计算与解释。

实验结果

研究问题

• RQ1 能否为多服务器队列推导出显式且简洁的界，使其普遍缩放为 1/(1−ρ)，类似于 Kingman 对单服务器系统的界？
• RQ2 稳态队列长度的尾部衰减速率如何依赖于到达时间和服务时间分布的有限矩数量？
• RQ3 此类界是否能在 Halfin-Whitt 情形下保持有效且可解释，即 n → ∞ 且 ρ → 1？
• RQ4 能否为具有负漂移的平稳增量随机游走的上确界推导出新颖的随机界？
• RQ5 能否对 Gamarnik 和 Goldberg 框架中的上界过程进行显式分析，以获得定量且可解释的尾部界？

主要发现

• 该论文首次建立了 Kingman 界在多服务器系统中的类比，对 GI/GI/n 队列实现了显式且简洁的 1/(1−ρ) 缩放。
• 队列长度和延迟概率的尾部衰减速率明确表达为到达时间和服务时间分布归一化 r 阶矩的函数（r > 2）。
• 即使在服务器数量增加且流量强度趋近于 1 的情况下，包括在 Halfin-Whitt 情形下，这些界依然有效且具有实际意义。
• 界的有效性——以尾部衰减速率衡量——随着到达时间和服务时间分布有限矩数量的增加而增强。
• 推导出关于具有负漂移的平稳增量随机游走上确界的新结果，支持主要界，并可能具有独立兴趣。
• 所有界均以仅依赖于归一化 r 阶矩 A 和 S、r 和 1/(1−ρ) 的简单显式函数形式表达，支持在性能分析与系统设计中的直接应用。