[论文解读] Mean-field Dynamics of Load-Balancing Networks with General Service Distributions

Reza Aghajani, Xingjie Li+1 more|arXiv (Cornell University)|Dec 16, 2015

Advanced Queuing Theory Analysis参考文献 20被引用 15

一句话总结

该论文提出了一种新颖的平均场框架，用于分析具有通用服务分布的大规模负载均衡网络，采用流体动力学型偏积分微分方程（PDE）系统。证明了该PDE具有唯一解，并通过数值方案和仿真表明，该PDE能准确近似瞬态网络动态，包括时变到达和重尾服务时间下的性能表现。

ABSTRACT

We introduce a general framework for the mean-field analysis of large-scale load-balancing networks with general service distributions. Specifically, we consider a parallel server network that consists of N queues and operates under the $SQ(d)$ load balancing policy, wherein jobs have independent and identical service requirements and each incoming job is routed on arrival to the shortest of $d$ queues that are sampled uniformly at random from $N$ queues. We introduce a novel state representation and, for a large class of arrival processes, including renewal and time-inhomogeneous Poisson arrivals, and mild assumptions on the service distribution, show that the mean-field limit, as $N ightarrow \infty$, of the state can be characterized as the unique solution of a sequence of coupled partial integro-differential equations, which we refer to as the hydrodynamic PDE. We use a numerical scheme to solve the PDE to obtain approximations to the dynamics of large networks and demonstrate the efficacy of these approximations using Monte Carlo simulations. We also illustrate how the PDE can be used to gain insight into network performance.

研究动机与目标

• 开发一种通用的平均场框架，用于分析具有任意服务时间分布的大规模负载均衡网络，突破指数服务时间假设的限制。
• 表征在具有通用服务分布的网络中，$SQ(d)$负载均衡策略的瞬态行为，特别是当服务时间不具备无 memory 性时。
• 通过推导出在$N \to \infty$时捕捉极限动态的流体动力学PDE，为研究大规模网络提供一种计算高效的蒙特卡洛模拟替代方法。
• 量化流量突发性与重尾服务分布对网络性能的影响，特别是在时变到达率情形下。
• 通过有效到达率$\lambda_{\text{eff}}$的概念，实现不同服务时间分布之间的性能比较。

提出的方法

• 提出一种新颖的状态表示方法，同时追踪队列长度与剩余服务时间，使分析超越标准的$S_{\ell}^{(N)}$马尔可夫过程。
• 推导出一组耦合的偏积分微分方程（流体动力学PDE），描述当$N \to \infty$时网络状态的平均场极限。
• 在到达过程和服务分布的温和假设下，建立缩放马尔可夫过程弱收敛于流体动力学PDE的唯一解。
• 提出一种数值方案以求解PDE，实现对瞬态网络性能指标的高效近似。
• 利用PDE解计算有效到达率$\lambda_{\text{eff}}$，使其在突发到达下与常数速率泊松过程的平均虚拟等待时间相匹配。
• 通过蒙特卡洛仿真验证PDE近似的准确性，结果在瞬态和稳态区域均表现出强一致性。

实验结果

研究问题

• RQ1 如何在平均场极限下表征具有通用服务分布的$SQ(2)$负载均衡网络的瞬态动态？
• RQ2 流量突发性（时变到达率）对平均虚拟等待时间的影响是什么？如何通过基于PDE的模型进行量化？
• RQ3 在相同平均负载下，重尾服务时间分布（如具有无限方差的帕累托分布）与轻尾分布相比，对网络性能有何影响？
• RQ4 PDE框架能否用于定义和计算有效到达率$\lambda_{\text{eff}}$，以将突发到达过程的性能等效为常数速率泊松过程？
• RQ5 求解流体动力学PDE所用数值方案的收敛特性如何？与蒙特卡洛仿真相比其准确性如何？

主要发现

• 流体动力学PDE唯一表征了具有通用服务分布（包括更新过程和时变非 homogeneous 泊松到达）的$SQ(2)$负载均衡网络的平均场极限。
• PDE的数值解提供了网络动态的高度精确且计算高效的近似，其计算成本远低于蒙特卡洛仿真。
• 流量突发性提高了有效到达率$\lambda_{\text{eff}}$，且在轻尾帕累托服务分布（$\beta=3.0$，有限方差）下影响更显著，相较于重尾分布（$\beta=1.5$）更为明显。
• 对于$\overline{\lambda} = 0.7$，有效到达率$\lambda_{\text{eff}}$随突发性参数$\Delta$增加而上升，且$\beta=3.0$时的增幅大于$\beta=1.5$，表明重尾分布可缓解突发性带来的负面影响。
• PDE框架可解决逆问题（如对不同$\Delta$计算$\lambda_{\text{eff}}$），而蒙特卡洛方法因计算成本过高而难以实现。
• 该框架可扩展至其他负载均衡算法，并可适应于研究一般服务时间分布下的瞬态与稳态性能。