[论文解读] Improving Online Algorithms via ML Predictions

Ravi Kumar, Manish Purohit+1 more|arXiv (Cornell University)|Jul 25, 2024

Optimization and Search Problems参考文献 13被引用 120

一句话总结

本文设计了使用机器学习预测来提升滑雪租赁问题和非可知调度的在线算法，在预测较好时实现一致性，在预测较差时具有鲁棒性，并提供了实证验证。

ABSTRACT

In this work we study the problem of using machine-learned predictions to improve the performance of online algorithms. We consider two classical problems, ski rental and non-clairvoyant job scheduling, and obtain new online algorithms that use predictions to make their decisions. These algorithms are oblivious to the performance of the predictor, improve with better predictions, but do not degrade much if the predictions are poor.

研究动机与目标

• 在不确定性下，激励使用机器学习预测来提升在线算法。
• 开发在预测准确时具有一致性、对预测不良有鲁棒性的在线算法。
• 为滑雪租赁和非可知调度提供可证明的鲁棒性和一致性保证。
• 探索利用预测的确定性和随机策略。
• 通过将基于预测的方法与经典基线进行对比的实验，验证其实用性。

提出的方法

• 将预测误差建模为 eta = L1(prediction - reality)，并目标实现 γ-鲁棒性和 β-一致性。
• 开发确定性鲁棒/一致性的滑雪租赁算法（算法2），参数 λ ∈ (0,1)，实现 (1+1/λ)-鲁棒性和 (1+λ)-一致性。
• 开发随机化鲁棒/一致性的滑雪租赁算法（算法3），实现 (1+1/b)/(1−e^{−(λ−1/b)})-鲁棒性和 (λ)/(1−e^{−λ})-一致性。
• 对于非可知调度，引入 SPJF（Shortest Predicted First，最短预测优先）和 PRR（Preferential Round-Robin，偏好轮询），并通过结构引理将它们结合，得到具有竞争保证的鲁棒/一致性算法。
• 给出作为 λ 与预测误差 η 的函数的具体竞争比和权衡。
• 将滑雪租赁扩展到变动需求场景，并表明相同的鲁棒性/一致性框架仍然适用。

实验结果

研究问题

• RQ1 在不假设预测质量的前提下，如何利用机器学习预测来改进在线算法？
• RQ2 在有预测的情况下，滑雪租赁问题可以达到的最佳鲁棒性和一致性保证是什么？
• RQ3 在带预测的非可知调度中，最佳的鲁棒性/一致性权衡是什么？
• RQ4 预测误差如何影响性能，在预测误差下随机策略是否能优于确定性策略？

主要发现

• 带预测的确定性滑雪租赁获得 (1+1/λ)-鲁棒性和 (1+λ)-一致性。
• 带预测的随机化滑雪租赁获得 (1+1/b)/(1−e^{−(λ−1/b)})-鲁棒性和 (λ)/(1−e^{−λ})-一致性。
• 带预测的非可知调度可以实现一个 (2/(1−λ))-鲁棒且 (1/λ)-一致性的随机化算法。
• SPJF 的竞争比至多为 1+2η/n，其中 η 为总预测误差；n 为作业数量。
• 将 PRR 与 SPJF 结合可实现竞争比最小值 min{(1/λ)(1+2η/n), 2/(1−λ)}，鲁棒性为 2/(1−λ)，一致性为 1/λ。
• 当 η=0 时，在完美预测下，PRR 可以达到 (1+λ)/(2λ)，在该情形优于轮询。
• 实验表明基于预测的算法优于经典基线，确定性和随机化变体在各种误差水平下都优于不基于预测的方法。