[论文解读] Stability for Two-class Multiserver-job Systems

Isaac Grosof, Mor Harchol‐Balter+1 more|arXiv (Cornell University)|Oct 1, 2020

Advanced Queuing Theory Analysis参考文献 25被引用 5

一句话总结

本文首次为具有不同服务速率和FCFS调度的两类非丢弃多服务器作业系统提供了稳定性区域的闭式解析表达式。通过采用饱和系统技术并推导出乘积形式的稳态分布，作者揭示了非单调的资源浪费模式，并量化了空闲服务器的利用率，揭示了由于作业大小和服务速率差异导致的显著低效性。

ABSTRACT

Multiserver-job systems, where jobs require concurrent service at many servers, occur widely in practice. Much is known in the dropping setting, where jobs are immediately discarded if they require more servers than are currently available. However, very little is known in the more practical setting where jobs queue instead. In this paper, we derive a closed-form analytical expression for the stability region of a two-class (non-dropping) multiserver-job system where each class of jobs requires a distinct number of servers and requires a distinct exponential distribution of service time, and jobs are served in first-come-first-served (FCFS) order. This is the first result of any kind for an FCFS multiserver-job system where the classes have distinct service distributions. Our work is based on a technique that leverages the idea of a "saturated" system, in which an unlimited number of jobs are always available. Our analytical formula provides insight into the behavior of FCFS multiserver-job systems, highlighting the huge wastage (idle servers while jobs are in the queue) that can occur, as well as the nonmonotonic effects of the service rates on wastage.

研究动机与目标

• 解决在具有多个作业类别的FCFS、非丢弃多服务器作业系统中缺乏解析稳定性分析的问题。
• 对真实世界系统进行建模，其中作业需要不同数量的服务器，并具有不同的服务时间分布。
• 推导出具有异构服务速率的两类系统中稳定性区域的闭式表达式。
• 理解服务速率比对服务器浪费和系统效率的影响。
• 为分析具有三个或更多类别的更复杂多服务器作业系统奠定基础。

提出的方法

• 引入饱和系统模型，其中队列中始终存在无限数量的作业。
• 通过一种新颖的平稳方程分解方法，推导出饱和系统的乘积形式稳态分布。
• 证明原始系统的稳定性区域等于饱和系统的吞吐量。
• 利用饱和系统分析服务器浪费及其对服务速率比的依赖性。
• 将该技术应用于重新推导并提供对Rumyantsev和Morozov（2017）先前结果的直观洞察。
• 通过改变服务速率比、作业大小和系统参数，分析浪费行为的非单调性。

实验结果

研究问题

• RQ1 具有不同服务速率和FCFS调度的两类多服务器作业系统的稳定性区域是什么？
• RQ2 服务速率比（μ₂/μ₁）如何影响此类系统中的服务器浪费？
• RQ3 为何服务器浪费随服务速率比变化表现出非单调行为？
• RQ4 饱和系统方法能否为非工作保持型多服务器作业系统提供精确的解析稳定性结果？
• RQ5 非单调浪费模式对系统配置和工作负载管理有何影响？

主要发现

• 通过饱和系统分析，首次以闭式表达式推导出两类多服务器作业系统的稳定性区域。
• 当μ₂/μ₁ = 1时，特别是当n₂ ≫ n₁时，分配给第二类作业的服务器中浪费可达60%。
• 当μ₂/μ₁变得非常大时，浪费稳定在接近n₂（具体为n₂ − n₁/p₂）的水平。
• 当n₂ ≫ n₁时，由于第一类作业的抢占效应，浪费行为出现非单调模式，表现出明显的局部最优和最差情况。
• 当n₁和n₂更接近时，非单调行为被抑制，浪费随μ₂/μ₁单调变化。
• 饱和系统技术为先前的稳定性结果提供了严谨且直观的证明，扩展了其解析基础。