[论文解读] Steady-State Analysis of Load Balancing with Coxian-$2$ Distributed Service Times

Xin Liu, Kang Gong+1 more|arXiv (Cornell University)|May 20, 2020

Advanced Queuing Theory Analysis参考文献 23被引用 9

一句话总结

本文在重载条件下，针对服务时间服从两期相型分布（Coxian-2）的大规模多服务器系统，采用迭代状态空间坍缩（SSC）与 Stein 方法，证明了若干经典负载均衡策略——包括 JSQ、JIQ、I1F 和 Power-of-d——可实现渐近零等待时间。关键贡献在于提出一种新颖的迭代 SSC 方法，即使在非指数服务时间分布缺乏单调性的情况下，也能实现精确的稳态近似。

ABSTRACT

This paper studies load balancing for many-server ($N$ servers) systems. Each server has a buffer of size $b-1,$ and can have at most one job in service and $b-1$ jobs in the buffer. The service time of a job follows the Coxian-2 distribution. We focus on steady-state performance of load balancing policies in the heavy traffic regime such that the normalized load of system is $λ= 1 - N^{-α}$ for $0

研究动机与目标

• 研究在重载条件下，服务时间为两期相型分布的大规模多服务器系统中，负载均衡策略的稳态性能。
• 解决因两期相型分布不具有递减失效率（DHR）而导致系统缺乏单调性所带来的分析挑战。
• 建立负载均衡策略在稳态下实现渐近零等待时间的条件。
• 提出一种基于迭代状态空间坍缩与 Stein 方法的新型分析框架，适用于非单调系统。
• 将先前针对指数服务时间分布的结果推广至更一般、更现实的服务时间分布，如两期相型分布。

提出的方法

• 应用 Stein 方法以界定系统状态偏离流体近似的期望偏差，从而实现稳态分析。
• 提出一种迭代状态空间坍缩（SSC）技术，根据系统动态逐步压缩系统状态空间。
• 使用类似李雅普诺夫函数的方法指导迭代坍缩过程，每次聚焦于一个状态维度，以简化分析。
• 证明关键状态变量（如 S₁,₁ 和 S₁,₂）在稳态下坍缩至更低维子空间，从而支持流体近似。
• 利用两期相型分布的结构性质——如第一阶段服务转移与第一阶段启动规则——以控制状态演化。
• 结合生成器近似与概率界，量化流体近似的误差，最终得出期望等待时间的紧致上界。

实验结果

研究问题

• RQ1 在两期相型服务时间分布下，经典负载均衡策略是否可实现渐近零等待时间？
• RQ2 在缺乏单调性的系统中，如非 DHR 服务时间分布系统，如何分析其稳态性能？
• RQ3 何种分析框架可实现对多服务器系统中稳态等待时间的紧致界推导？
• RQ4 迭代状态空间坍缩是否可用于简化具有相型服务时间的复杂排队系统的分析？
• RQ5 在 Power-of-d 策略中，采样服务器数量 d 需满足何种条件，才能在重载下实现零等待？

主要发现

• 在重载条件下，当 λ = 1 - N^(-α) 且 0 < α < 0.5 时，JSQ、JIQ、I1F 和 Power-of-d（其中 d = O(N^α log N)）均能实现渐近零等待时间。
• 超过阈值 η 的每台服务器上作业数的最大期望值被有界为 O(1/(√N log N))，表明在极限下等待时间可忽略不计。
• 迭代状态空间坍缩方法成功将系统状态压缩至低维子空间，使得流体近似有效。
• 该方法实现了在非单调系统中对 Stein 方法的严格应用，克服了以往依赖 DHR 性质的分析方法的局限性。
• 期望等待时间的上界被推导为 E[max{∑Sᵢ - η, 0}] ≤ 7μ_max / (√N log N)，随着 N 增大而趋于零。
• 分析表明，两期相型分布的阶段结构有助于实现有效的状态坍缩，而更复杂的相型分布则难以建立此类坍缩。