[论文解读] Scheduling with Predictions and the Price of Misprediction

Michael Mitzenmacher|arXiv (Cornell University)|Feb 2, 2019

Advanced Bandit Algorithms Research参考文献 33被引用 27

一句话总结

本文提出了一种分析带有预测服务时间的任务调度的框架，通过联合密度函数 $g(x,y)$ 建模真实服务时间与预测服务时间，推导出最短预测作业优先（SPJF）和最短预测剩余处理时间（SPRPT）等策略的精确性能公式。主要贡献在于量化了‘误预测代价’——即由于预测不准确导致的性能损失，表明即使预测质量较弱，也能带来显著收益，尤其在高负载条件下效果更明显。

ABSTRACT

In many traditional job scheduling settings, it is assumed that one knows the time it will take for a job to complete service. In such cases, strategies such as shortest job first can be used to improve performance in terms of measures such as the average time a job waits in the system. We consider the setting where the service time is not known, but is predicted by for example a machine learning algorithm. Our main result is the derivation, under natural assumptions, of formulae for the performance of several strategies for queueing systems that use predictions for service times in order to schedule jobs. As part of our analysis, we suggest the framework of the "price of misprediction," which offers a measure of the cost of using predicted information.

研究动机与目标

• 将经典排队论扩展至作业服务时间可预测而非已知的场景。
• 量化在调度策略中使用不准确预测所带来的性能成本。
• 构建一个适用于各种基于机器学习的预测系统在排队环境中的通用分析框架。
• 证明即使预测准确度较低，也能显著优于完全无信息的情况。

提出的方法

• 使用联合概率密度函数 $g(x,y)$ 建模预测，其中 $x$ 为真实服务时间，$y$ 为预测服务时间。
• 基于 $g(x,y)$ 推导 SPJF 和 SPRPT 策略下系统中平均等待时间的精确解析公式。
• 利用竞争分析与概率假设，计算不同负载条件下各项性能指标。
• 通过在多种分布（指数分布、威布尔分布）和预测准确度下进行大规模仿真，验证理论结果。
• 引入‘误预测代价’作为度量指标，量化预测误差导致的性能退化。
• 将该框架应用于有限作业和无限队列（稳态）场景，重点聚焦泊松到达的排队系统。

实验结果

研究问题

• RQ1 当使用预测服务时间而非真实服务时间时，SPJF 和 SPRPT 策略的性能会如何退化？
• RQ2 预测准确度与队列系统中系统性能之间的解析关系是什么？
• RQ3 ‘误预测代价’如何随系统负载和预测误差分布变化？
• RQ4 弱预测或噪声预测与无信息相比，仍能在多大程度上提升性能？
• RQ5 在标准排队假设下，能否为预测调度推导出精确的性能公式？

主要发现

• SPJF 和 SPRPT 策略下系统中平均等待时间的理论公式在所有测试负载和分布下与仿真结果误差小于1%。
• 即使存在预测误差（例如预测时间均匀分布在 $[(1-\alpha)x, (1+\alpha)x]$ 内），随着 $\alpha$ 增大，性能退化也保持平滑。
• 在高负载（$\lambda = 0.99$）下，SPRPT 使用预测仍可将系统中平均等待时间控制在约 28.79，而 FIFO 为 100，显示出显著优势。
• 当 $\lambda = 0.95$ 时，SPRPT 在 $\alpha = 0.2$（20% 误差）下，系统中平均等待时间约为 8.41，而完美知识下为约 8.32，表明性能损失极小。
• 当预测较为准确时，误预测代价较低，且即使预测不完美，仍能带来性能增益。
• 该框架对重尾分布（如威布尔分布）具有良好的泛化能力，表明在不同服务时间特性下均具有鲁棒性。