[论文解读] Two-stage sample robust optimization

Dimitris Bertsimas, Shimrit Shtern+1 more|arXiv (Cornell University)|Jul 16, 2019

Risk and Portfolio Optimization参考文献 33被引用 14

一句话总结

该论文提出了一种基于重叠线性决策规则的两阶段样本鲁棒优化方法，用于近似具有类型-∞ Wasserstein 不确定性集的分布鲁棒优化问题。在温和条件下证明了其渐近最优性，并通过数值实验表明，该方法计算上可行，且在样本外性能上显著优于当前最先进的数据驱动方法。

ABSTRACT

We investigate a simple approximation scheme, based on overlapping linear decision rules, for solving data-driven two-stage distributionally robust optimization problems with the type-$\infty$ Wasserstein ambiguity set. Our main result establishes that this approximation scheme is asymptotically optimal for two-stage stochastic linear optimization problems; that is, under mild assumptions, the optimal cost and optimal first-stage decisions obtained by approximating the robust optimization problem converge to those of the underlying stochastic problem as the number of data points grows to infinity. These guarantees notably apply to two-stage stochastic problems that do not have relatively complete recourse, which arise frequently in applications. In this context, we show through numerical experiments that the approximation scheme is practically tractable and produces decisions which significantly outperform those obtained from state-of-the-art data-driven alternatives.

研究动机与目标

• 为解决在数据有限时，样本平均近似（SAA）在两阶段随机优化中相对完备补救不成立的局限性。
• 为具有 Wasserstein 不确定性集的两阶段分布鲁棒优化问题，开发一种计算上可行的近似方案。
• 在温和的概率假设下，为所提出的方法建立渐近最优性的理论保证。
• 通过实证验证，该方法生成的一阶段决策在样本外性能上显著优于现有数据驱动方法。

提出的方法

• 该方法采用重叠线性决策规则来近似二阶段决策函数，从而实现鲁棒优化问题的可计算求解。
• 采用多策略近似方案，在不确定性集的重叠区域上对分段线性决策规则进行优化。
• 该方法利用不确定性集随数据增加而缩小的特性，使局部决策规则在观测到更多数据时变得更加精确。
• 该公式被建模为线性规划，确保在大规模数据集下仍具备可扩展性和计算可行性。
• 鲁棒性参数设置为 $ \epsilon_N = N^{-1/8} $，随着数据量 $ N $ 增加，该参数在鲁棒性与保守性之间实现平衡。
• 该方法设计用于在缺乏相对完备补救的问题中，仍保持可行性与最优性保证。

实验结果

研究问题

• RQ1 基于重叠线性决策规则的简单近似方案，是否能在具有 Wasserstein 不确定性集的两阶段分布鲁棒优化中实现渐近最优性？
• RQ2 在数据有限的情况下，该方法与 SAA 及其他数据驱动方法相比，其样本外性能如何？
• RQ3 在缺乏相对完备补救的问题中，该方法是否在提升鲁棒性的同时保持计算可行性？
• RQ4 鲁棒性参数 $ \epsilon_N $ 对保守性与样本外性能之间权衡的影响是什么？
• RQ5 当底层随机问题缺乏相对完备补救时，该近似方法的渐近最优性是否仍可保证？

主要发现

• 所提出的多策略近似方案具有渐近最优性：随着数据点数量增加，最优成本和一阶段决策收敛于真实随机问题的解。
• 该方法在样本外性能上优于 SAA 和其他数据驱动方法，尤其在缺乏相对完备补救的问题中表现更优。
• 该方法的运行时间与数据规模呈线性关系，即使在大规模数据集下仍保持计算可行性，当 $ N = 512 $ 时平均运行时间低于 5 秒。
• 该方法的预测误差稳定保持在 5% 至 10% 之间，为真实样本外性能提供了可靠的上界，而 SAA 在 50%–80% 的情况下产生了负的预测误差。
• 当数据充足时，该方法的样本外性能与 SAA 和 MP Affine 几乎相同，但在数据有限的场景下显著优于二者。
• 该近似方法在所有测试案例中均保持可行性，即使在 SAA 因缺乏相对完备补救而可能失效的问题中也是如此。