[论文解读] Analysis of Load Balancing in Large Heterogeneous Processor Sharing Systems

Arpan Mukhopadhyay, Ravi R. Mazumdar|arXiv (Cornell University)|Nov 22, 2013

Distributed and Parallel Computing Systems参考文献 17被引用 12

一句话总结

本文分析了在不同服务器速度的大型异构处理器共享系统中，随机化加入最短队列（JSQ）机制的性能。研究发现，标准的双选择JSQ机制在异构系统中相比同质系统稳定性区域减小，但提出了一种混合静态随机化+JSQ机制，可恢复最大稳定性，同时保持低延迟性能，并通过扩散极限分析证明其稳态分布对作业大小分布具有不变性。

ABSTRACT

We analyze randomized dynamic load balancing schemes for multi-server processor sharing systems when the number of servers in the system is large and the servers have heterogeneous service rates. In particular, we focus on the classical power-of-two load balancing scheme and a variant of it in which a newly arrived job is assigned to the server having the least instantaneous Lagrange shadow cost among two randomly chosen servers. The instantaneous Lagrange shadow cost at a server is given by the ratio of the number of unfinished jobs at the server to the capacity of the server. Two different approaches of analysis are presented for each scheme. For exponential job length distribution, the analysis is done using the mean field approach and for more general job length distributions the analysis is carried out assuming an asymptotic independence property. Analytical expressions to compute mean sojourn time of jobs are found for both schemes. Asymptotic insensitivity of the schemes to the type of job length distribution is established. Numerical results are presented to validate the theoretical results and to show that, unlike the homogeneous scenario, the power-of-two type schemes considered in this paper may not always result in better behaviour in terms of the mean sojourn time of jobs.

研究动机与目标

• 研究大规模异构处理器共享系统中，不同服务器速度下随机化JSQ机制的稳定性与性能表现。
• 识别标准双选择JSQ机制在异构环境中的局限性，特别是相比同质系统稳定性区域缩小的问题。
• 刻画JSQ路由下服务器占用状态的稳态分布，并证明其对作业大小分布的不变性。
• 提出并分析一种结合静态随机路由与JSQ的混合路由机制，以恢复最大稳定性，同时保留JSQ的低延迟优势。

提出的方法

• 采用均场分析方法，研究当服务器数量趋于无穷大时系统的渐近行为。
• 应用混沌传播（渐近独立性）原理，将服务器状态在极限下近似为相互独立。
• 推导并求解服务器占用水平的稳态概率递归方程组。
• 通过生成函数参数化平衡方法，证明稳态分布的存在性与单调性。
• 提出一种混合机制，结合基于类别的静态路由与类内随机化JSQ采样，以恢复最大稳定性。
• 通过证明无论作业大小分布为何，系统均收敛至同一平衡态，从而证明稳态分布对作业大小分布的不变性。

实验结果

研究问题

• RQ1 在不同服务器速度的异构处理器共享系统中，标准双选择JSQ机制是否仍能保持最大稳定性？
• RQ2 服务器异质性对随机化JSQ机制稳定性区域有何影响？
• RQ3 在JSQ路由下，大规模异构系统中服务器占用的稳态分布是否可被刻画？
• RQ4 在异构环境下，系统稳态分布是否对作业大小分布具有不变性？
• RQ5 能否设计一种混合路由机制，在恢复最大稳定性区域的同时，保留JSQ的延迟优势？

主要发现

• 在异构系统中，标准双选择JSQ机制的稳定性区域严格小于最大可能值，意味着其平均延迟性能可能劣于静态随机路由。
• 在JSQ机制下，服务器占用的稳态分布表现出超指数尾部衰减，与同质系统类似，当服务器数量趋于无穷时成立。
• 稳态分布对作业大小分布具有不变性，即无论作业大小服从指数分布、超指数分布或一般相型分布，系统均呈现相同的平衡行为。
• 一种结合静态路由至服务器类别与类内随机化JSQ采样的混合路由机制，可在保持JSQ低延迟优势的同时，实现最大稳定性区域。
• 所提出的混合机制在平均驻留时间方面，严格优于异构系统中的纯静态路由与纯随机化JSQ机制。
• 通过概率序列的递归分析及无穷远处收敛至零，证明了均场极限下存在唯一平衡点。