[论文解读] Risk Bounds and Calibration for a Smart Predict-then-Optimize Method

Heyuan Liu, Paul Grigas|arXiv (Cornell University)|Aug 19, 2021

Risk and Portfolio Optimization参考文献 21被引用 5

一句话总结

本论文首次为预测-再优化框架中的SPO+代理损失建立了风险界和一致校准结果，表明最小化SPO+可高概率地实现较低的超额真实风险。论文证明了在多面体可行区域下风险界为$O(\theta^2)$，在强凸水平集下可改进至$O(\theta)$，从而首次实现了SPO+相对于真实SPO风险的样本复杂度界。

ABSTRACT

The predict-then-optimize framework is fundamental in practical stochastic decision-making problems: first predict unknown parameters of an optimization model, then solve the problem using the predicted values. A natural loss function in this setting is defined by measuring the decision error induced by the predicted parameters, which was named the Smart Predict-then-Optimize (SPO) loss by Elmachtoub and Grigas [arXiv:1710.08005]. Since the SPO loss is typically nonconvex and possibly discontinuous, Elmachtoub and Grigas [arXiv:1710.08005] introduced a convex surrogate, called the SPO+ loss, that importantly accounts for the underlying structure of the optimization model. In this paper, we greatly expand upon the consistency results for the SPO+ loss provided by Elmachtoub and Grigas [arXiv:1710.08005]. We develop risk bounds and uniform calibration results for the SPO+ loss relative to the SPO loss, which provide a quantitative way to transfer the excess surrogate risk to excess true risk. By combining our risk bounds with generalization bounds, we show that the empirical minimizer of the SPO+ loss achieves low excess true risk with high probability. We first demonstrate these results in the case when the feasible region of the underlying optimization problem is a polyhedron, and then we show that the results can be strengthened substantially when the feasible region is a level set of a strongly convex function. We perform experiments to empirically demonstrate the strength of the SPO+ surrogate, as compared to standard $\ell_1$ and squared $\ell_2$ prediction error losses, on portfolio allocation and cost-sensitive multi-class classification problems.

研究动机与目标

• 为解决SPO+代理损失缺乏有限样本风险界的问题，尽管其具有Fisher一致性，但该问题对实际部署至关重要。
• 量化超额代理风险（SPO+）与超额真实风险（SPO）之间的关系，从而实现将优化保证转化为决策质量的转化。
• 通过结合风险界与泛化界，推导SPO+的样本复杂度界，确保以高概率实现低决策误差。
• 通过利用可行区域的结构性质，特别是强凸性，强化理论保证。
• 在不同噪声水平下，通过实证验证SPO+相较于标准损失（$\ell_1$，$\ell_2$）在投资组合配置与多分类任务中的表现。

提出的方法

• 推导了将超额SPO+风险与超额SPO风险关联的风险界，在有界多面体可行区域下，于温和分布假设下证明了$O(\theta^2)$界。
• 引入强凸水平集的新连续性与最优性性质，将风险界改进至$O(\theta)$，显著收紧了代理风险与真实风险之间的关系。
• 应用一致校准理论，表明当代理风险控制在$\delta$以内时，真实风险可保证在$\epsilon$以内，且具有显式函数依赖关系。
• 将推导出的风险界与泛化界结合，首次建立了SPO+相对于SPO风险的样本复杂度界。
• 采用对数障碍近似方法建模代价敏感多分类中的单位单纯形，实现SPO+的可微分优化。
• 利用反函数定理证明在光滑性与强凸性假设下最优解映射的可微性，支持理论分析。

实验结果

研究问题

• RQ1 在预测-再优化框架中，如何以超额代理SPO+风险表示超额真实SPO风险？
• RQ2 当可行区域为光滑且强凸函数的水平集时，相较于一般多面体，风险界可获得何种改进？
• RQ3 使用有限训练数据时，SPO+代理损失能否以高概率实现低超额真实风险？这对应何种样本复杂度？
• RQ4 在现实世界启发的问题中，SPO+损失与标准预测损失（$\ell_1$，$\ell_2$）相比，在决策质量方面表现如何？
• RQ5 可行区域的何种结构性质可实现SPO+代理损失的更紧风险界？

主要发现

• 对于有界多面体可行区域，SPO+风险界为$O(\theta^2)$，意味着将代理超额风险降低$\theta$倍，可使真实超额风险降低$\theta^2$倍。
• 当可行区域为光滑且强凸函数的水平集时，风险界提升至$O(\theta)$，表明由于更强的连续性与最优性性质，风险关系显著收紧。
• 在温和分布假设下，SPO+损失与SPO损失具有Fisher一致性，确保最小化SPO+可在极限下实现最优决策。
• 通过结合风险界与泛化界，论文首次建立了SPO+相对于SPO风险的样本复杂度界，表明SPO+的经验最小化器可高概率实现低超额真实风险。
• 在投资组合配置与代价敏感分类任务中的实证结果表明，SPO+在简单超参数调优下，其决策质量优于标准$\ell_1$与$\ell_2$损失。
• 通过反函数定理建立了最优解映射的可微性，支持在强凸性假设下SPO+的理论分析。