[论文解读] Neur2SP: Neural Two-Stage Stochastic Programming

Justin Dumouchelle, Rahul Patel+2 more|arXiv (Cornell University)|May 20, 2022

Economic and Environmental Valuation被引用 11

一句话总结

Neur2SP 提出了一种数据驱动、结构无关的方法，通过训练基于 ReLU 的神经网络来近似期望的第二阶段成本，从而加速求解两阶段随机规划问题（2SPs）。该代理模型被嵌入混合整数规划（MIP）模型中并高效求解，在不到 1.66 秒内获得高质量解，相比扩展形式（extensive form）快了数个数量级，即使在场景数量增加时依然如此。

ABSTRACT

Stochastic Programming is a powerful modeling framework for decision-making under uncertainty. In this work, we tackle two-stage stochastic programs (2SPs), the most widely used class of stochastic programming models. Solving 2SPs exactly requires optimizing over an expected value function that is computationally intractable. Having a mixed-integer linear program (MIP) or a nonlinear program (NLP) in the second stage further aggravates the intractability, even when specialized algorithms that exploit problem structure are employed. Finding high-quality (first-stage) solutions -- without leveraging problem structure -- can be crucial in such settings. We develop Neur2SP, a new method that approximates the expected value function via a neural network to obtain a surrogate model that can be solved more efficiently than the traditional extensive formulation approach. Neur2SP makes no assumptions about the problem structure, in particular about the second-stage problem, and can be implemented using an off-the-shelf MIP solver. Our extensive computational experiments on four benchmark 2SP problem classes with different structures (containing MIP and NLP second-stage problems) demonstrate the efficiency (time) and efficacy (solution quality) of Neur2SP. In under 1.66 seconds, Neur2SP finds high-quality solutions across all problems even as the number of scenarios increases, an ideal property that is difficult to have for traditional 2SP solution techniques. Namely, the most generic baseline method typically requires minutes to hours to find solutions of comparable quality.

研究动机与目标

• 解决具有混合整数或非线性第二阶段子问题的两阶段随机规划（2SPs）在计算上的不可行性。
• 开发一种通用启发式方法，不依赖于特定问题结构或分解算法。
• 实现在大规模场景数量下对 2SPs 的快速、可扩展求解，而传统方法（如扩展形式）在该情况下变得不切实际。
• 提供一种计算高效且在多种 2SP 问题类别中均保持高解决方案质量的代理优化模型。
• 证明利用深度学习近似期望资源成本的可行性与优越性，且该方法可无缝集成至 MIP 求解器中。

提出的方法

• 通过基于仿真的采样生成（第一阶段决策、场景集、期望第二阶段成本）的元组数据集。
• 训练一个基于 ReLU 的前馈神经网络（NN-E 或 NN-P），以预测给定第一阶段决策和场景集下的期望第二阶段成本。
• 使用 MIP 可表示的 ReLU 激活函数形式，将训练好的神经网络嵌入 MIP 模型中，从而实现对代理问题的精确优化。
• 使用现成的 MIP 求解器求解所得代理 MIP，以获得第一阶段解。
• 利用代理模型指导第一阶段决策，而无需显式了解第二阶段问题的结构。
• 提出两种变体：NN-E（一次性嵌入整个场景集）和 NN-P（按场景分别嵌入网络），二者在可扩展性和训练开销方面存在差异。

实验结果

研究问题

• RQ1 基于数据驱动的神经网络代理模型是否能在不依赖问题结构的前提下显著减少两阶段随机规划的求解时间？
• RQ2 训练好的神经网络在泛化至训练期间未见过的更大场景集时表现如何，尤其是在具有混合整数或非线性第二阶段子问题的问题中？
• RQ3 代理模型的 NN-E 和 NN-P 两种变体在解决方案质量与计算效率之间存在何种权衡？
• RQ4 在多种 2SP 问题类别中，Neur2SP 与标准扩展形式（EF）方法在解决方案质量与运行时间方面相比如何？
• RQ5 当场景数量增加时，代理模型是否仍能保持高解决方案质量，而此时 EF 方法因计算成本过高而变得不可行？

主要发现

• Neur2SP 在所有基准 2SP 问题上均于 1.66 秒内求解完毕，所有问题实例的最短求解时间为 0.11 秒，最长为 1.66 秒。
• NN-E 变体在大多数问题上与扩展形式（EF）解的差距在 ±5% 以内，最大偏差为 13.78%，最小为 -102%。
• 对于较大规模实例（如 CFLP、SSLP、PP），Neur2SP 在速度和解决方案质量上均优于 EF，即使 EF 运行 3 小时也难以达到 Neur2SP 的质量水平。
• NN-P 变体在最大规模的 INVP 实例上超时且未找到可行解，表明由于按场景分别嵌入网络，其可扩展性存在局限。
• 对于混合问题（PP），NN-E 与 EF 的目标值差距为 40%，表明其具有良好的泛化能力；而 NN-P 表现较差（40% 偏差），表明其在该类问题上泛化能力不足。
• NN-E 模型在更大场景集（最多 1000 个场景）上泛化良好，尽管每个数据点的训练最大场景数为 100 个，但随着场景数量增加，其性能反而提升。