[论文解读] Scheduling with Service-Time Information: The Power of Two Priority Classes

Yan Chen, Jing Dong|arXiv (Cornell University)|Feb 16, 2021

Advanced Queuing Theory Analysis参考文献 27被引用 7

一句话总结

本文提出了一种基于服务时间信息的双类优先级调度规则，在单服务器和多服务器队列中实现了接近最优的性能。通过根据服务时间分布尾部行为确定的阈值对任务进行分类，该策略在重载条件下实现了接近最短剩余处理时间（SRPT）策略的队列长度缩放性能，即使服务时间估计存在误差也具有鲁棒性。

ABSTRACT

Utilizing customers' service-time information, we study an easy-to-implement scheduling policy with two priority classes. By carefully designing the classes, the two-class priority rule achieves near-optimal performance. In particular, for a single-server queue, as the traffic intensity approaches 1, the policy achieves a scaling for the queue length processes that is similar to the shortest remaining processing time first policy. Our analysis quantifies how the tail of the service time distribution affects the benefits one can gain from service-time-based scheduling policies. When the service times are misspecified, we further quantify how imperfect observation of the service time affects the performance of the two-class priority rule through both theoretical and numerical analysis. Our results demonstrate the robustness of the two-class priority rule. Specifically, even with imperfect service-time information, the two-class priority rules can still achieve substantial performance improvement over the first come first served.

研究动机与目标

• 设计一种实用的调度策略，利用服务时间信息显著提升重载队列的系统性能。
• 通过提出双类优先级结构，解决SRPT实施中的挑战，如动态优先级重排和缺乏实时服务时间访问。
• 量化服务时间分布尾部行为对基于服务时间调度性能提升的影响。
• 评估双类规则在服务时间观测不准确情况下的鲁棒性，尤其与FCFS及其他基准策略进行比较。
• 将分析从单服务器扩展到多服务器队列，并证明所提策略的可扩展性。

提出的方法

• 基于服务时间的阈值定义两类优先级：低于阈值的任务为高优先级，其余为低优先级。
• 在每个类别内实施非抢占式、FCFS服务规则，以确保实用性和部署简便性。
• 根据服务时间分布的尾部累积分布函数（尾部CDF）推导阈值，具体采用 $ K(\rho, F) = \bar{F}((1-\rho)^{-(1-\alpha)}) $，其中 $ \alpha = 0.05 $，以保证重载条件下的最优性。
• 运用状态空间坍缩论证，表明在重载条件下（$ \rho \to 1 $），队列长度过程主要由低优先级类主导，其平均服务时间决定了缩放行为。
• 通过理论重载渐近分析，证明当低优先级类的平均服务时间发散时，双类规则的队列长度缩放与SRPT相当。
• 在单服务器和多服务器的M/GI/1及M/M/c队列中，通过数值实验将双类规则与FCFS、FB（前台-后台）和SJF（最短作业优先）进行比较。

实验结果

研究问题

• RQ1 在重载条件下，为何简单的双类优先级规则能在单服务器队列中实现接近最优SRPT策略的性能？
• RQ2 将任务划分为两类优先级的最优阈值是什么？它如何依赖于服务时间分布的尾部行为？
• RQ3 服务时间分布的尾部衰减速率如何影响基于服务时间调度的性能提升？
• RQ4 双类优先级规则对服务时间预测中的误差或误设有多大的鲁棒性？
• RQ5 双类规则能否在多服务器系统中实现优异性能？与SJF和FCFS相比，其可扩展性和实用性如何？

主要发现

• 在重载条件下，双类优先级规则实现的队列长度缩放在渐近意义上与SRPT相似，尤其当低优先级类的平均服务时间在 $ \rho \to 1 $ 时发散时。
• 对于重尾服务时间分布（如形状参数为2.5的帕累托分布），该策略在M/GI/1队列中实现的稳态平均队列长度显著低于FCFS——例如在 $ \rho = 0.95 $ 时，分别为7.29和17.20。
• 即使在服务时间预测存在噪声（高斯噪声 $ \epsilon \sim N(0, 0.3^2) $）的情况下，双类规则仍优于FCFS和FB，尤其在失败率递增的分布（如Weibull(1.5,1.5)）下，FB的表现甚至劣于FCFS。
• 在多服务器系统中（如 $ c=100 $），双类规则将平均队列长度从FCFS的186.4降低至 $ \rho = 0.99 $ 时的124.5，接近SJF的114.5，同时实现难度远低于SJF。
• 性能增益在重载条件和重尾服务时间分布下最为显著，因为阈值被设定为将越来越长的任务隔离至低优先级类。
• 该策略对服务时间误设具有鲁棒性：即使预测存在噪声，其性能仍显著优于FCFS，证明了其在真实场景中的实用可行性。