[论文解读] Residuals-Based Contextual Distributionally Robust Optimization with Decision-Dependent Uncertainty

Qing Zhu, Xian Yu+1 more|arXiv (Cornell University)|Jun 28, 2024

Risk and Portfolio Optimization被引用 5

一句话总结

本论文提出了一种基于残差的上下文感知DRO框架（ER-D3RO），根据协变量和决策对不确定性建模，利用回归残差形成三种类型的歧义集并实现数据驱动半径，具有理论保证和数值演示。

ABSTRACT

We consider a residuals-based distributionally robust optimization model, where the underlying uncertainty depends on both covariate information and our decisions. We adopt regression models to learn the latent decision dependency and construct a nominal distribution (thereby ambiguity sets) around the learned model using empirical residuals from the regressions. Ambiguity sets can be formed via the Wasserstein distance, a sample robust approach, or with the same support as the nominal empirical distribution (e.g., phi-divergences), where both the nominal distribution and the radii of the ambiguity sets could be decision- and covariate-dependent. We provide conditions under which desired statistical properties, such as asymptotic optimality, rates of convergence, and finite sample guarantees, are satisfied. Via cross-validation, we devise data-driven approaches to find the best radii for different ambiguity sets, which can be decision-(in)dependent and covariate-(in)dependent. Through numerical experiments, we illustrate the effectiveness of our approach and the benefits of integrating decision dependency into a residuals-based DRO framework.

研究动机与目标

• 为带有上下文随机计划中的决策相关不确定性提供动机并形式化。
• 开发ER-D3RO框架，利用回归残差在预测未来周围构建分布界不确定性。
• 为所提方法提供统计保证（一致性、收敛速率、有限样本保证）。
• 提出基于交叉验证的数据驱动算法，以在协变量和决策依赖下选择歧义集半径。
• 在一个决策相关的运输计划与定价问题上展示该方法，并与ER-SAA与ER-DRO进行比较。

提出的方法

• 将不确定性建模为 Y = f*(X,Z) + ε，其中 f* 属于一个函数类，且 ε 与 X、Z 独立。
• 使用回归估计和残差构建经验残差基础的 DD-SAA（ER-DD-SAA），包括投影到凸集 Y 以确保可行性。
• 围绕 ER 经验分布形成三个歧义集：(i) 基于Wasserstein距离的，(ii) 样本鲁棒的，(iii) 同一支持的歧义集。
• 通过求解 Z 的最小化来得到ER-D3RO：hat v_n^{D3RO}(x) = min_z sup_{Q in hat P_n(x,z)} E_{Y~Q}[c(z, Y(x,z))]。
• 在决策相关不确定性下研究理论保证（一致性、收敛速率、有限样本保证），并讨论扩展到决策独立半径和协变量/相关半径。
• 提供基于交叉验证的程序，选择不同歧义集形式和依赖关系的半径。

实验结果

研究问题

• RQ1 如何将决策相关的不确定性纳入基于残差的上下文DRO框架？
• RQ2 在不同歧义集构造下，ER-D3RO 的统计保证（一致性、收敛速率、有限样本保证）是什么？
• RQ3 当半径可能依赖于协变量和/或决策时，应如何选择歧义集半径？
• RQ4 将决策依赖性纳入对比基于无决策依赖的方法，对样本外性能有何影响？
• RQ5 在决策相关的上下文设置中，三种歧义集构造（Wasserstein、SR、同一支持）在实践中有何比较？

主要发现

• ER-D3RO 框架通过使用回归残差在学习模型周围形成歧义集，将决策依赖性整合到基于残差的DRO中。
• 本文为所提出的方法在三种歧义集类型下提供渐进最优性、收敛速率和有限样本保证的条件。
• 提出基于交叉验证的、可以协变量和/或决策相关的半径选择数据驱动方法。
• 在带决策相关的运输计划与定价的数值实验显示，考虑决策相关性的有效性，并将ER-D3RO与ER-SAA及决策独立的ER-DRO进行比较，突出性能收益。