[论文解读] The Primal-Dual method for Learning Augmented Algorithms

Étienne Bamas, Andreas Maggiori+1 more|arXiv (Cornell University)|Oct 22, 2020

Optimization and Search Problems参考文献 28被引用 20

一句话总结

该论文将在线算法的原始-对偶方法扩展至引入机器学习预测的场景，使算法在预测准确时能实现近似最优性能，同时在预测错误时仍保持鲁棒性。该工作提出了一般性框架，为在线覆盖问题提供了具备一致性与鲁棒性保证的竞争力算法，且其性能随预测置信度提升而优化。

ABSTRACT

The extension of classical online algorithms when provided with predictions is a new and active research area. In this paper, we extend the primal-dual method for online algorithms in order to incorporate predictions that advise the online algorithm about the next action to take. We use this framework to obtain novel algorithms for a variety of online covering problems. We compare our algorithms to the cost of the true and predicted offline optimal solutions and show that these algorithms outperform any online algorithm when the prediction is accurate while maintaining good guarantees when the prediction is misleading.

研究动机与目标

• 开发一种将机器学习预测集成到在线算法中的通用框架，基于原始-对偶方法。
• 确保算法在预测准确或误导时均保持强性能保证。
• 设计在预测正确时实现近似最优代价，而在预测失败时仍保持最坏情况鲁棒性的算法。
• 将原始-对偶技术从经典在线设置扩展至学习增强设置，仅需最小的结构改动。

提出的方法

• 将在线问题表述为原始线性规划及其对偶问题，随后在线维护两者可行的分数解。
• 采用参数化更新规则，通过 λ 平衡对预测的信任度与对不良预测的鲁棒性。
• 引入广义原始-对偶更新机制，根据预测质量与输入到达情况动态调整。
• 应用在线舍入方法，将原始分数解转换为有界代价的整数解。
• 通过参数 λ 定义一致性-鲁棒性权衡，其中 λ → 0 表示对预测的高置信度。
• 通过有界原始代价增长与对偶代价增长之比证明竞争力比，利用弱对偶性。

实验结果

研究问题

• RQ1 原始-对偶方法能否系统性地扩展至学习增强型在线算法？
• RQ2 预测置信度应如何形式化建模，并整合进原始-对偶框架？
• RQ3 当预测准确与误导时，可实现何种性能保证？
• RQ4 该框架能否在各类在线覆盖问题上统一应用？

主要发现

• 所提框架实现了 C(λ)-一致性与 R(λ)-鲁棒性，其中当 λ → 0 时 C(λ) → 1，表明在预测准确时可实现近似最优性能。
• 对于任意 λ ∈ (0,1]，算法的竞争力比随预测误差平滑退化，确保在 λ = 1 时具备最坏情况鲁棒性。
• 该方法为在线覆盖问题生成了具备可证明一致性与鲁棒性权衡的算法，且无需对预测质量做任何假设。
• 该框架具有通用性与模块化特性，仅需调整原始-对偶更新规则，即可简便应用于各类问题。
• 理论分析确认，对于任意输入 I 与预测 A，算法代价始终有界于 min{C(λ)·S(A,I), R(λ)·OPT(I)}。