[论文解读] Doubly Exponential Solution for Randomized Load Balancing Models with General Service Times

Quan‐Lin Li|arXiv (Cornell University)|Aug 23, 2010

Advanced Queuing Theory Analysis参考文献 30被引用 3

一句话总结

本文提出了一种新颖的补充变量方法，用于分析具有通用服务时间的随机化负载均衡模型，通过密度依赖跳跃马尔可夫过程构建了一个无限维的积分-微分方程系统。该文建立了一个闭式 doubly exponential 固定点解，证明即使在重尾服务时间下该解依然存在，并在一般服务时间假设下确认了指数收敛性和利普希茨连续性。

ABSTRACT

In this paper, we provide a novel and simple approach to study the supermarket model with general service times. This approach is based on the supplementary variable method used in analyzing stochastic models extensively. We organize an infinite-size system of integral-differential equations by means of the density dependent jump Markov process, and obtain a close-form solution: doubly exponential structure, for the fixed point satisfying the system of nonlinear equations, which is always a key in the study of supermarket models. The fixed point is decomposited into two groups of information under a product form: the arrival information and the service information. based on this, we indicate two important observations: the fixed point for the supermarket model is different from the tail of stationary queue length distribution for the ordinary M/G/1 queue, and the doubly exponential solution to the fixed point can extensively exist even if the service time distribution is heavy-tailed. Furthermore, we analyze the exponential convergence of the current location of the supermarket model to its fixed point, and study the Lipschitz condition in the Kurtz Theorem under general service times. Based on these analysis, one can gain a new understanding how workload probing can help in load balancing jobs with general service times such as heavy-tailed service.

研究动机与目标

• 为解决一个开放性问题：重尾服务时间是否会破坏超级市场模型中 doubly exponential 结构？
• 为具有通用（非指数）服务时间的超级市场模型开发一个可处理的分析框架，此类服务时间更符合实际但分析上更具挑战性。
• 在一般服务时间分布下，建立无限种群极限中固定点的存在性及其结构。
• 证明系统状态在一般服务时间假设下向固定点的指数收敛性，并验证 Kurtz 型扩散极限所要求的利普希茨条件。
• 证明即使在重尾服务时间下，工作负载探测依然有效，为数据中心和多核系统中的实际负载均衡提供了新见解。

提出的方法

• 应用补充变量方法，以建模超级市场模型中队列长度与剩余服务时间的联合动态行为。
• 通过将系统建模为密度依赖跳跃马尔可夫过程，构建一个无限维的积分-微分方程系统。
• 通过求解非线性方程组推导系统的固定点，表明其可分解为到达信息与服务信息的乘积形式。
• 在流体极限中建立漂移函数的利普希茨连续性，从而可应用 Kurtz 定理进行扩散近似。
• 利用流体极限与指数收敛性分析，界定了作业在系统中的期望停留时间。
• 通过数值示例验证了该方法的有效性，表明其适用于非指数服务时间分布。

实验结果

研究问题

• RQ1 当服务时间具有重尾分布时，超级市场模型中固定点的 doubly exponential 结构是否依然存在？
• RQ2 能否为具有通用（非相型）服务时间分布的超级市场模型推导出固定点的闭式解？
• RQ3 在一般服务时间假设下，系统状态如何收敛到固定点？
• RQ4 在一般服务时间分布下，流体极限中漂移函数的利普希茨连续性需满足何种条件？
• RQ5 当服务时间具有重尾分布时，工作负载探测在负载均衡中的有效性在多大程度上仍然成立？

主要发现

• 即使服务时间分布为重尾，具有通用服务时间的超级市场模型的固定点仍表现出 doubly exponential 结构。
• 该固定点可分解为到达信息与服务信息的乘积形式，这与 M/G/1 队列中平稳队列长度分布的尾部有本质区别。
• 在更一般的超级市场模型中，doubly exponential 解并非唯一，表明其结构对系统参数具有敏感性。
• 在一般服务时间分布下，系统状态向固定点的指数收敛性已得到证明。
• 流体极限中的漂移函数满足利普希茨条件，从而可通过 Kurtz 定理实现严格的扩散近似。
• 在初始为空的系统中，作业的期望停留时间被一个包含 doubly exponential 固定点的表达式所上界控制，证实了在一般服务时间下性能的提升。