[论文解读] Data-Driven Robust Optimization

Dimitris Bertsimas, Vishal Gupta+1 more|arXiv (Cornell University)|Dec 31, 2013

Risk and Portfolio Optimization被引用 28

一句话总结

本文提出了一种数据驱动的鲁棒优化框架，利用统计假设检验从经验数据构建不确定性集，确保有限样本的概率保证，同时减少保守性。通过将数据与先验结构假设相结合，该方法生成计算上可处理的模型，在投资组合管理和排队系统应用中显著优于传统鲁棒优化，保守性更低且精度更高。

ABSTRACT

The last decade witnessed an explosion in the availability of data for operations research applications. Motivated by this growing availability, we propose a novel schema for utilizing data to design uncertainty sets for robust optimization using statistical hypothesis tests. The approach is flexible and widely applicable, and robust optimization problems built from our new sets are computationally tractable, both theoretically and practically. Furthermore, optimal solutions to these problems enjoy a strong, finite-sample probabilistic guarantee. \edit{We describe concrete procedures for choosing an appropriate set for a given application and applying our approach to multiple uncertain constraints. Computational evidence in portfolio management and queuing confirm that our data-driven sets significantly outperform traditional robust optimization techniques whenever data is available.

研究动机与目标

• 解决日益增长的需求：开发能够利用大量现实世界数据而非仅依赖先验假设的鲁棒优化技术。
• 提出一种通用的不确定性集构建方案，确保其在使用经验数据时既计算上可处理又统计上有效。
• 通过使用数据驱动的置信区域缩小不确定性集，减少传统鲁棒优化中固有的保守性。
• 确保有限样本的概率保证，即鲁棒解在真实底层分布下仍保持可行性。
• 在投资组合管理与排队系统等实际应用中，展示数据驱动不确定性集相较于经典方法的优越性。

提出的方法

• 该方法利用应用于从真实分布中独立同分布抽取的数据的统计假设检验，构建置信区域以构造不确定性集。
• 它将关于分布的先验结构假设（例如独立性、矩）与经验数据相结合，以定义数据驱动的不确定性集。
• 不确定性集的设计使得：若某解在该集合上鲁棒，则其在真实分布下以 $1 - \epsilon$ 的概率满足可行性保证。
• 该方法利用凸分析确保所得鲁棒优化问题保持可计算性，尤其当约束函数在不确定参数上为凹函数时。
• 不同的假设检验和结构假设可产生不同的不确定性集，从而在各类应用中具备灵活性。
• 该方法通过优化假设检验中的显著性水平 ($\epsilon_j$) 进一步收紧边界，减少保守性。

实验结果

研究问题

• RQ1 如何使鲁棒优化适应大规模经验数据，同时保持理论保证？
• RQ2 能否构建显著小于传统集合的数据驱动不确定性集，同时保持鲁棒性？
• RQ3 数据对减少鲁棒优化模型中保守性的影响是什么？
• RQ4 如何将统计假设检验整合到鲁棒优化中，以确保有限样本的概率可行性保证？
• RQ5 在现实世界应用中，数据驱动的不确定性集在多大程度上优于经典鲁棒优化方法？

主要发现

• 数据驱动的不确定性集显著小于传统对应集合，从而在投资组合管理和排队应用中产生更少保守性的解。
• 在排队示例中，所提出的边界 $W_n^{FB,3}$ 的均值为 14.4，标准差为 1.2，即使在数据有限的情况下也优于 Kingman 边界（均值 55.1，标准差 8.7）。
• 随着数据量的增加，该方法的边界稳步改善，表现出强数据效率，并且与经典边界相比变异性更低。
• 优化假设检验中的显著性水平 ($\epsilon_j$) 显著提升了边界的紧致性，$W_n^{FB,2}$ 和 $W_n^{FB,3}$ 相较于 $W_n^{FB,1}$ 显著提升。
• 概率保证维持在 $1 - \epsilon$ 水平，确保在数据驱动集合下可行的解在真实分布下也以高概率可行。
• 该框架在计算上是可处理的，且可通过适当的变量变换应用于广泛的问题，包括多阶段自适应和不确定线性优化。