[论文解读] Single cut and multicut SDDP with cut selection for multistage stochastic linear programs: convergence proof and numerical experiments

Vincent Guigues, Michelle Bandarra|arXiv (Cornell University)|Feb 14, 2019

Risk and Portfolio Optimization参考文献 34被引用 10

一句话总结

本文提出了 CuSMuDA，一种用于多阶段随机线性规划中多割分解算法（MuDA）和随机对偶动态规划（SDDP）的割选择策略。通过应用一级（Level 1）和有限内存一级（LML1）割选择方法，该方法在确保有限次迭代内几乎必然收敛的同时，显著降低了计算负担，且在投资组合与库存问题的数值实验中，LML1 显现出显著的加速效果。

ABSTRACT

We introduce a variant of Multicut Decomposition Algorithms (MuDA), called CuSMuDA (Cut Selection for Multicut Decomposition Algorithms), for solving multistage stochastic linear programs that incorporates a class of cut selection strategies to choose the most relevant cuts of the approximate recourse functions. This class contains Level 1 and Limited Memory Level 1 cut selection strategies, initially introduced for respectively Stochastic Dual Dynamic Programming (SDDP) and Dual Dynamic Programming (DDP). We prove the almost sure convergence of the method in a finite number of iterations and obtain as a by-product the almost sure convergence in a finite number of iterations of SDDP combined with our class of cut selection strategies. We compare the performance of MuDA, SDDP, and their variants with cut selection (using Level 1 and Limited Memory Level 1) on several instances of a portfolio problem and of an inventory problem. On these experiments, in general, SDDP is quicker (i.e., satisfies the stopping criterion quicker) than MuDA and cut selection allows us to decrease the computational bulk with Limited Memory Level 1 being more efficient (sometimes much more) than Level 1.

研究动机与目标

• 解决由于每次迭代中最优性割数量持续增长，导致多割 SDDP 和 MuDA 计算负担过重的问题。
• 提出一类通用的割选择策略，在保持收敛性保证的同时，降低内存与计算开销。
• 证明当与所提出的割选择框架结合时，MuDA 和 SDDP 的几乎必然收敛性。
• 在真实世界的多阶段随机规划问题上，评估不同割选择变体（尤其是有限内存一级）的性能表现。
• 证明割选择可大幅减少 CPU 时间，同时不损害解的质量。

提出的方法

• 提出一类基于满足假设 (H3) 的选择器的割选择策略家族，确保收敛性。
• 提出 CuSMuDA，一个将多割分解算法与所提出的割选择策略家族相结合的框架。
• 将原本用于 SDDP 和 DDP 的一级（Level 1）和有限内存一级（LML1）割选择策略，适配至多割设置中。
• 利用试验点评估割的相关性，并仅选择最具信息量的割，从而减少每次迭代中活跃割的数量。
• 将确定性 DDP 的收敛性证明技术（如文献 [16] 所述）应用于随机情形，并将其推广至一般割选择规则。
• 通过在 LML1 中仅保留每个试验点的最老割来实现割选择，从而在保持收敛性的同时最小化内存使用。

实验结果

研究问题

• RQ1 能否将单割 SDDP 中的割选择策略扩展至多割分解算法（MuDA），同时保持收敛性？
• RQ2 在多阶段随机规划问题中，有限内存一级（LML1）割选择策略是否在计算效率上优于标准一级？
• RQ3 割选择对 SDDP 和 MuDA 在投资组合与库存管理问题中迭代次数和 CPU 时间的影响如何？
• RQ4 在何种条件下割选择能带来更快收敛？又在何种情况下可能效果较差？
• RQ5 在具有通用选择器规则的随机设置下，能否严格证明 SDDP 与割选择结合后的收敛性？

主要发现

• 采用有限内存一级（LML1）割选择的 CuSMuDA 将 CPU 时间显著降低，相较于标准 MuDA，T=30 时运行时间从 363.86 分钟降至 56.62 分钟。
• 在六组库存问题实例中的五组上，采用 LML1 割选择的 SDDP（SDDP CS 2）为最快方法，T=5 时运行时间仅为 0.18 分钟，远低于标准 SDDP 的 0.57 分钟。
• CuSMuDA CS 1（一级）的运行时间慢于 MuDA 和 CuSMuDA CS 2，原因在于过度保留割，T=30 时 CPU 时间最高达 575.53 分钟。
• CuSMuDA CS 2（LML1）在所有阶段中被选中的割的平均比例极低（低于 10%），而 CuSMuDA CS 1（一级）则保留了大量割。
• 所有方法均产生一致的上下界，证实尽管减少了割的数量，解的质量仍得到保持。
• 所提出的割选择框架下，SDDP 和 MuDA 的收敛性被证明为在有限次迭代内几乎必然收敛，将先前的确定性结果推广至随机情形。