[论文解读] Optimal Scheduling and Exact Response Time Analysis for Multistage Jobs

Ziv Scully, Mor Harchol‐Balter+1 more|arXiv (Cornell University)|May 17, 2018

Advanced Queuing Theory Analysis参考文献 17被引用 6

一句话总结

本文提出多阶段作业——一种用于部分已知作业大小的系统调度的模型，其中各阶段的大小未知但服从马尔可夫过程。论文提出了多阶段 Gittins 策略（MGP），通过单作业收益（SJP）计算各阶段特定的 Gittins 指数，实现最优调度，并提供了响应时间的闭式分析，表明通过利用早期大小信息，与盲策略相比，平均响应时间最高可降低 28%。

ABSTRACT

Scheduling to minimize mean response time in an M/G/1 queue is a classic problem. The problem is usually addressed in one of two scenarios. In the perfect-information scenario, the scheduler knows each job's exact size, or service requirement. In the zero-information scenario, the scheduler knows only each job's size distribution. The well-known shortest remaining processing time (SRPT) policy is optimal in the perfect-information scenario, and the more complex Gittins policy is optimal in the zero-information scenario. In real systems the scheduler often has partial but incomplete information about each job's size. We introduce a new job model, that of multistage jobs, to capture this partial-information scenario. A multistage job consists of a sequence of stages, where both the sequence of stages and stage sizes are unknown, but the scheduler always knows which stage of a job is in progress. We give an optimal algorithm for scheduling multistage jobs in an M/G/1 queue and an exact response time analysis of our algorithm.

研究动机与目标

• 通过引入具有阶段相关服务需求的多阶段作业，建模现实世界中作业大小部分已知的调度场景，例如广告投放或维修系统。
• 在 M/G/1 队列中为多阶段作业开发最优调度策略，利用当前阶段和阶段年龄进行决策。
• 为所提出的策略提供精确的、闭式响应时间分析，克服 Gittins 策略在一般情况下缺乏已知闭式解的局限。
• 证明利用多阶段结构可显著降低平均响应时间，相比忽略阶段级信息的盲策略。

提出的方法

• 提出一种新型作业模型——多阶段作业，其中每个作业按序列经历多个阶段，各阶段大小未知但服从马尔可夫过程，调度器可观测当前阶段和阶段年龄。
• 引入单作业收益（SJP）公式，重新表达多阶段作业的 Gittins 指数，实现各阶段优先级的可计算性。
• 提出多阶段 Gittins 策略（MGP），根据当前阶段和该阶段内的年龄选择 SJP 最高的作业。
• 通过将系统分解为阶段级贡献并利用 SJP 性质，推导出 MGP 的闭式响应时间分析。
• 利用 SJP 框架比较不同调度策略，并在部分信息条件下证明最优性。
• 通过仿真和与盲策略（如 BGP）的分析比较，量化阶段级信息带来的性能增益。

实验结果

研究问题

• RQ1 能否为调度器通过阶段推进仅获得部分剩余大小信息的多阶段作业设计最优调度策略？
• RQ2 随机阶段与确定性阶段的顺序如何影响调度性能和平均响应时间？
• RQ3 与仅依赖总作业年龄相比，通过阶段完成实现的早期作业大小学习在多大程度上提升了调度效率？
• RQ4 能否为多阶段作业模型中的最优策略推导出闭式响应时间分析？
• RQ5 与仅将作业视为黑箱并依赖总年龄相比，利用阶段级结构可实现多大程度的性能提升？

主要发现

• 多阶段 Gittins 策略（MGP）通过基于单作业收益（SJP）计算的阶段特定 Gittins 指数，实现了多阶段作业的最优调度。
• 当作业阶段顺序变化时，MGP 相较于盲 Gittins 策略（BGP）在高负载下可将平均响应时间降低最多 21%，在中等负载下降低最多 12%。
• 当存在早期大小信息（如维修难度）时，MGP 在高负载下可将平均响应时间降低最多 28%，在中等负载下降低最多 17%。
• 论文证明，对于具有相同总大小分布的作业，优先处理将可变性集中在前期（即随机阶段更早）的作业，可获得更优的平均响应时间。
• 通过 SJP 推导出 MGP 的闭式响应时间分析，实现了此前在部分信息设置下 Gittins 策略所缺乏的精确性能评估。
• 研究表明，忽略多阶段结构会导致次优调度，而利用阶段级信息可在真实工作负载中带来显著的性能增益。