[论文解读] Customizing ML Predictions for Online Algorithms

Keerti Anand, Rong Ge+1 more|arXiv (Cornell University)|May 18, 2022

Optimization and Search Problems参考文献 20被引用 13

一句话总结

本文提出了一种“学习租用”（learning-to-rent）框架，通过直接优化在线算法性能来定制机器学习模型，特别针对租用或购买问题。与标准预测误差不同，该方法将竞争比（competitive ratio）作为损失目标，实现了 $(1+\varepsilon)$ 的竞争比，同时提升了样本复杂度，并在预测为对抗性输入时仍保持最坏情况下的鲁棒性。

ABSTRACT

A popular line of recent research incorporates ML advice in the design of online algorithms to improve their performance in typical instances. These papers treat the ML algorithm as a black-box, and redesign online algorithms to take advantage of ML predictions. In this paper, we ask the complementary question: can we redesign ML algorithms to provide better predictions for online algorithms? We explore this question in the context of the classic rent-or-buy problem, and show that incorporating optimization benchmarks in ML loss functions leads to significantly better performance, while maintaining a worst-case adversarial result when the advice is completely wrong. We support this finding both through theoretical bounds and numerical simulations.

研究动机与目标

• 为解决现有机器学习用于优化的方法中将机器学习视为黑箱的问题，本文旨在重新设计学习算法，使其直接服务于优化目标。
• 通过将机器学习损失函数与所得在线策略的竞争比对齐，提升在线算法设计中的样本效率。
• 即使在机器学习预测错误或遭受对抗性攻击时，仍保持最坏情况下的鲁棒性（即竞争比有界）。
• 证明基于优化感知目标的学习方法在在线设置下性能优于标准机器学习训练。
• 为所提出的‘学习租用’框架建立样本复杂度与鲁棒性的理论边界。

提出的方法

• 本文提出一种‘学习租用’算法，将输入特征 $x$ 映射到租赁时长 $\theta(x)$，直接优化竞争比，而非预测真实季节长度 $y$。
• 与最小化标准损失（如均方误差）不同，该模型被训练为最小化在特征与真实时长联合分布 $\mathbb{K}$ 上的期望竞争比。
• 该方法利用PAC学习框架，推导出实现 $(1+\varepsilon)$ 竞争比的一般化边界与样本复杂度保证。
• 在学习过程中采用基于间隔的分类器，以提升决策边界附近的鲁棒性，降低在高影响区域误分类的敏感度。
• 通过确保即使预测为对抗性输入，竞争比仍保持有界，从而在方法中融入最坏情况下的鲁棒性。
• 数值模拟验证了理论发现，比较了所提方法与标准黑箱机器学习方法在不同维度与噪声水平下的表现。

实验结果

研究问题

• RQ1 我们能否重新设计机器学习算法，使其预测结果能专门针对提升在线算法的竞争比而优化？
• RQ2 将竞争比作为损失函数，如何影响在线优化中的样本复杂度与泛化能力？
• RQ3 当机器学习预测错误或遭受对抗性输入时，我们能在多大程度上维持最坏情况下的鲁棒性？
• RQ4 当目标是优化在线算法性能时，‘学习租用’方法是否优于标准机器学习训练？
• RQ5 ‘学习租用’框架的性能如何随特征维度与数据噪声变化而变化？

主要发现

• ‘学习租用’框架实现了 $(1+\varepsilon)$ 的竞争比，其样本复杂度依赖于 $\varepsilon$，显著优于标准在线算法的最坏情况边界 $\frac{e}{e-1}$。
• 即使在对抗性输入下，该方法仍保持有界的竞争比，确保了最坏情况下的鲁棒性。
• 在高维特征空间（$d=5000$）中，由于聚焦于与优化相关的关键区域，所提方法优于标准黑箱机器学习方法。
• 学习过程中采用的基于间隔的分类器降低了高影响区域的误差，尽管整体分类准确率较低，但整体性能更优。
• 即使在高达40%的数据存在噪声时，‘学习租用’算法的竞争比仍优于 $\frac{e}{e-1}$，展现出强大的鲁棒性。
• 理论分析与模拟结果一致表明，与标准机器学习训练相比，基于优化感知目标的学习可显著降低样本复杂度，尤其在高维情形下。