[论文解读] Active Learning For Contextual Linear Optimization: A Margin-Based Approach

Mo Liu, Paul Grigas+2 more|arXiv (Cornell University)|May 11, 2023

Machine Learning and Algorithms被引用 6

一句话总结

本文提出了首个针对预测-再优化范式的主动学习框架，采用基于边际的准则，结合智能预测-再优化（SPO）损失以最小化决策误差。该研究提出MBAL-SPO，一种具有理论保证的可计算主动学习算法，其在低噪声和可分性条件下展现出优于监督学习的样本效率。

ABSTRACT

We develop the first active learning method for contextual linear optimization. Specifically, we introduce a label acquisition algorithm that sequentially decides whether to request the ``labels'' of feature samples from an unlabeled data stream, where the labels correspond to the coefficients of the objective in the linear optimization. Our method is the first to be directly informed by the decision loss induced by the predicted coefficients, referred to as the Smart Predict-then-Optimize (SPO) loss. Motivated by the structure of the SPO loss, our algorithm adopts a margin-based criterion utilizing the concept of distance to degeneracy. In particular, we design an efficient active learning algorithm with theoretical excess risk (i.e., generalization) guarantees. We derive upper bounds on the label complexity, defined as the number of samples whose labels are acquired to achieve a desired small level of SPO risk. These bounds show that our algorithm has a much smaller label complexity than the naive supervised learning approach that labels all samples, particularly when the SPO loss is minimized directly on the collected data. To address the discontinuity and nonconvexity of the SPO loss, we derive label complexity bounds under tractable surrogate loss functions. Under natural margin conditions, these bounds also outperform naive supervised learning. Using the SPO+ loss, a specialized surrogate of the SPO loss, we establish even tighter bounds under separability conditions. Finally, we present numerical evidence showing the practical value of our algorithms in settings such as personalized pricing and the shortest path problem.

研究动机与目标

• 开发一种基于决策误差而非预测误差选择标签的主动学习方法，应用于预测-再优化框架。
• 最小化SPO损失，即一种衡量由预测参数引发的决策成本的决策导向损失函数。
• 为该情境下的主动学习提供过剩风险和标签复杂度的理论保证。
• 在低噪声和可分性条件下，证明该方法相较于监督学习具有更高的样本效率。
• 在个性化定价和最短路径问题中对方法进行实证验证。

提出的方法

• 提出一种基于边际的主动学习算法（MBAL-SPO），以退化距离作为采样准则。
• 通过基于边际的准则最小化SPO损失的可计算代理函数，以确保计算可及性。
• 提出两种变体：硬拒绝与软拒绝，二者均具有理论上的过剩风险保证。
• 为两种变体推导出标签复杂度的上界，表明在低噪声条件下优于监督学习。
• 使用SPO+损失作为专用代理函数，在可分性条件下显著降低标签复杂度。
• 采用流式主动学习设置，从无标签数据流中按顺序获取标签。

实验结果

研究问题

• RQ1 在预测-再优化框架中，通过聚焦于最能减少决策误差的样本，主动学习能否降低标签复杂度？
• RQ2 在主动学习设置中，如何有效最小化非凸且非Lipschitz的SPO损失？
• RQ3 在这一新颖的主动学习设置中，能够为过剩风险和标签复杂度提供哪些理论保证？
• RQ4 在何种条件下，基于SPO损失的主动学习在标签效率方面优于标准监督学习？
• RQ5 该方法在个性化定价和最短路径等现实决策问题中的表现如何？

主要发现

• 在个性化定价实验中，即使假设类被错误指定，MBAL-SPO仍实现了比监督学习更低的过剩SPO风险。
• 在最短路径问题中，基于边际的算法在仅200个标注样本后收敛更快且SPO风险更低。
• 在自然的低噪声条件下，MBAL-SPO的标签复杂度边界优于监督学习。
• 在可分性条件下，使用SPO+代理函数的标签复杂度显著低于标准SPO损失。
• 该算法在合成与真实世界设置中对参数尺度和噪声水平的变化均表现出鲁棒性。
• 数值结果证实，MBAL-SPO在最短路径和个性化定价问题中均具有实际价值，且性能提升稳定一致。