[论文解读] Two-Stage Robust Optimization with Decision Dependent Uncertainty

Bo Zeng, Wei Wang|arXiv (Cornell University)|Mar 30, 2022

Risk and Portfolio Optimization被引用 13

一句话总结

本文提出了列与约束生成（C&CG）方法的三种高级变体，以精确求解具有决策依赖性不确定性（DDU）的两阶段鲁棒优化问题，利用核心线性规划概念对收敛性和迭代复杂度进行严格分析。令人惊讶的是，从迭代次数来看，DDU问题并不比决策无关不确定性（DIU）问题更复杂，且通过整合‘深层知识’将DIU集合转化为DDU集合，可显著提升解的质量和鲁棒性。

ABSTRACT

The type of decision dependent uncertainties (DDUs) imposes a great challenge in decision making, while existing methodologies are not sufficient to support many real practices. In this paper, we present a systematic study to handle this challenge in two-stage robust optimization~(RO). Our main contributions include three sophisticated variants of column-and-constraint generation method to exactly compute DDU-based two-stage RO. By a novel application of core concepts of linear programming, we provide rigorous analyses on their computational behaviors. Interestingly, in terms of the iteration complexity of those algorithms, DDU-based two-stage RO is not more demanding than its decision independent uncertainty (DIU) based counterpart. It is worth highlighting a counterintuitive discovery that converting a DIU set into a DDU set by making use of "deep knowledge" and then computing the resulting DDU-based formulation may lead to a significant improvement. Indeed, as shown in this paper, in addition to capturing the actual dependence existing in the real world, DDU is a powerful and flexible tool to represent and leverage analytical properties or simply domain expertise to achieve a strong solution capacity. So, we believe it will open a new direction to solve large-scale DIU- or DDU-based RO. Other important results include basic structural properties for two-stage RO, an approximation scheme to deal with mixed integer recourse, and a couple of enhancement techniques for the developed algorithms, as well as an organized numerical study to help us appreciate all algorithms and enhancement techniques' computational performances.

研究动机与目标

• 为解决两阶段鲁棒优化中决策依赖性不确定性（DDU）的挑战，该问题相较于决策无关不确定性（DIU）仍属研究不足。
• 开发精确且计算高效的算法，用于求解具有DDU的两阶段RO，克服现有方法的局限性。
• 利用基本线性规划概念，严格分析所提C&CG变体的收敛性和迭代复杂度。
• 证明：当结合领域专业知识（‘深层知识’）时，DDU形式化可产生优于传统DIU模型的解。
• 提供一个系统性框架，包括结构特性、混合整数型子问题的近似方案，以及面向实际部署的算法增强技术。

提出的方法

• 针对具有DDU的两阶段鲁棒优化，提出三种复杂的C&CG算法变体，通过修改以处理非线性子问题和不确定性集合。
• 在C&CG框架内应用核心线性规划概念——如对偶性与最优性条件——以严格分析收敛性和迭代复杂度。
• 提出一种新颖的重构技术，用于处理第二阶段的第二阶锥（SOC）子问题及基于SOC的不确定性集合，提升数值稳定性。
• 开发一种近似方案以管理混合整数型子问题，从而扩大在现实决策场景中的适用性。
• 采用增强技术，如热启动、约束收紧和动态割线生成，以加速收敛。
• 通过在具有不同不确定性结构和子问题类型的设施选址与网络设计问题上的综合数值实验验证所提方法。

实验结果

研究问题

• RQ1 能否使用增强的C&CG方法精确求解具有决策依赖性不确定性的两阶段鲁棒优化问题？此类算法的理论迭代复杂度是多少？
• RQ2 将DIU集合通过‘深层知识’转化为DDU集合，是否能提升解的质量或计算性能？
• RQ3 考虑到DDU引入了决策依赖性不确定性，DDU型两阶段RO的迭代复杂度与DIU型相比如何？
• RQ4 两阶段鲁棒优化问题在DDU下的结构特性是什么？与DIU形式化有何不同？
• RQ5 非线性子问题（如第二阶锥）和非线性不确定性集合如何影响所提算法的计算性能与可扩展性？

主要发现

• 所提C&CG变体可精确求解具有DDU的两阶段鲁棒优化问题，其收敛性和迭代复杂度分析基于线性规划理论，具有严格理论基础。
• 尽管DDU引入了额外复杂性，但所提算法的迭代复杂度并不高于其DIU对应算法，挑战了‘DDU本质上更困难’的假设。
• 通过领域专业知识（‘深层知识’）将DIU不确定性集合转化为DDU集合，可显著提升解的质量，即使DDU形式更具表达力。
• 第二阶锥（SOC）子问题的计算负担显著更高——平均比线性子问题高出两个数量级——但C&CG的迭代次数仍保持较低。
• 基于SOC的不确定性集合对计算成本的影响远小于SOC子问题的影响，表明后者是非线性DDU问题中的主要性能瓶颈。
• 在非线性结构中，算法对参数设置表现出强烈敏感性，表明线性或多面体形式在大规模实例中仍更具稳定性和可扩展性。