[论文解读] Beyond Worst-case: A Probabilistic Analysis of Affine Policies in Dynamic Optimization

Omar El Housni, Vineet Goyal|arXiv (Cornell University)|Jun 18, 2017

Risk and Portfolio Optimization参考文献 12被引用 3

一句话总结

本文对两阶段动态鲁棒优化中的仿射策略进行了概率分析，表明在随机不确定性分布下，仿射策略的近似性能显著优于最坏情况下的 $O(\bigsqrt{m})$ 边界，实现了近乎最优的性能。关键贡献在于为仿射策略在随机实例上表现出的强 empirically 性能提供了理论解释，并通过在均匀分布和折叠正态分布上的实验得到验证。

ABSTRACT

Affine policies (or control) are widely used as a solution approach in dynamic optimization where computing an optimal adjustable solution is usually intractable. While the worst case performance of affine policies can be significantly bad, the empirical performance is observed to be near-optimal for a large class of problem instances. For instance, in the two-stage dynamic robust optimization problem with linear covering constraints and uncertain right hand side, the worst-case approximation bound for affine policies is $O(\sqrt m)$ that is also tight (see Bertsimas and Goyal (2012)), whereas observed empirical performance is near-optimal. In this paper, we aim to address this stark-contrast between the worst-case and the empirical performance of affine policies. In particular, we show that with high probability affine policies give a good approximation for two-stage dynamic robust optimization problems on random instances generated from a large class of distributions; thereby, providing a theoretical justification of the observed empirical performance. The approximation bound depends on the distribution, but it is significantly better than the worst-case bound for a large class of distributions.

研究动机与目标

• 解决仿射策略在动态鲁棒优化中理论最坏情况性能边界较差与实际经验性能强劲之间的差异。
• 分析在随机不确定性分布下仿射策略的近似质量，而非最坏情况下的对抗性设定。
• 为计算实验中观察到的仿射策略近乎最优的实证性能提供理论依据。
• 推导出依赖于分布的近似边界，其紧致程度远优于对一大类分布的最坏情况 $O(\bigsqrt{m})$ 边界。
• 通过在均匀分布和折叠正态分布上的计算实验验证理论发现。

提出的方法

• 建立一个具有线性覆盖约束和在紧致凸不确定性集 $\mathcal{U}$ 中不确定右端项的两阶段可调鲁棒优化问题。
• 分析仿射策略，其中第二阶段决策是不确定参数的线性函数，从而实现高效计算。
• 通过将不确定性向量 $\boldsymbol{h}$ 建模为一大类分布（包括均匀分布和折叠正态分布）中抽取的随机变量，推导出概率近似边界。
• 利用对偶性和线性规划重构方法，分析仿射策略相对于最优可调解的性能。
• 采用混合整数规划（MIP）公式求解小规模实例的最优可调解，从而与仿射策略进行比较。
• 应用数字化线性化技术处理MIP公式中的双线性项，使标准求解器能够精确求解。

实验结果

研究问题

• RQ1 当不确定性来自随机分布而非对抗性分布时，仿射策略是否能实现优于最坏情况的近似性能？
• RQ2 仿射策略的近似边界如何依赖于不确定参数的底层分布？
• RQ3 仿射策略在随机实例上的实证性能在多大程度上匹配或超过理论最坏情况边界？
• RQ4 在随机实例上，计算最优可调解与使用仿射策略之间的计算权衡如何？
• RQ5 是否存在特定的分布假设，使得仿射策略在高概率下被证明是近乎最优的？

主要发现

• 对于独立同分布的均匀随机实例，仿射策略的理论最坏情况边界为2-近似（推论2.2），但实证结果表明平均最优性间隙仅为1%，对应近似比不超过1.04。
• 对于正态分布和折叠正态分布，理论边界为 $O(\sqrt{\log(mn)})$，但实证性能依然强劲，平均间隙低于4%。
• 仿射策略具有高效的可扩展性，即使在 $m = 50$ 时，平均计算时间也低于15秒，而最优可调解在 $m \geq 40$ 时无法在3小时时限内求解。
• 最优可调解仅在小规模实例（$m \leq 30$）下通过MIP可计算，但仿射策略在实践中始终优于最坏情况理论边界。
• 在所有测试的分布中，最大比值 $z_{\text{Aff}}/z_{\text{AR}}$ 均低于1.04，表明在各种随机实例中均表现出稳健的近乎最优性。
• 结果表明，仿射策略不仅计算上可行，而且在一大类随机分布下具有高概率的理论近似最优性，从而解释了其在实证中的成功。