[论文解读] An Adaptive Sampling-based Progressive Hedging Algorithm for Stochastic Programming

Di Zhang, Zhang, Yihang+1 more|arXiv (Cornell University)|Jul 30, 2024

Risk and Portfolio OptimizationDecision Sciences被引用 3

一句话总结

该论文提出了一种基于自适应采样的渐进分布法（AS-PHA），通过动态采样场景子问题、使用随机共轭次梯度和线搜索进行对偶更新，并消除对显式概率分布的依赖，克服了传统随机规划中渐进分布法的关键局限。该方法实现了更快的收敛速度和更好的可扩展性，实验结果表明其在数据效率和鲁棒性方面优于经典PH方法。

ABSTRACT

The progressive hedging algorithm (PHA) is a cornerstone among algorithms for large-scale stochastic programming problems. However, its traditional implementation is hindered by some limitations, including the requirement to solve all scenario subproblems in each iteration, reliance on an explicit probability distribution, and a convergence process that is highly sensitive to the choice of certain penalty parameters. This paper introduces a sampling-based PHA which aims to overcome these limitations. Our approach employs a dynamic selection process for the number of scenario subproblems solved per iteration. It incorporates adaptive sequential sampling for determining sample sizes, a stochastic conjugate subgradient method for direction finding, and a line-search technique to update the dual variables. Experimental results demonstrate that this novel algorithm not only addresses the bottlenecks of the conventional PHA but also potentially surpasses its scalability, representing a substantial improvement in the field of stochastic programming.

研究动机与目标

• 解决经典渐进分布法（PHA）存在的计算瓶颈问题，后者在每次迭代中需要求解所有场景子问题。
• 消除对随机变量概率分布的显式知识需求，使其适用于基于仿真的或大规模不确定性场景。
• 通过基于线搜索和共轭次梯度的自适应对偶更新策略，替代固定惩罚参数，以提高收敛的鲁棒性。
• 通过动态自适应采样场景而非固定样本大小，提升可扩展性和数据效率。
• 在自适应采样和随机逼近原理下，建立理论收敛保证。

提出的方法

• 采用动态采样策略，根据优化进展自适应地选择每次迭代中要求解的场景子问题数量。
• 使用随机共轭次梯度法计算搜索方向，相较于标准次梯度方法，收敛性得到改善。
• 应用线搜索技术更新对偶变量，实现惩罚参数的隐式和自适应调整。
• 引入样本量自适应机制，根据次梯度和对偶间隙估计，动态增减场景数量。
• 将经典PHA中确定性的子问题求解替换为保持收敛性的顺序自适应采样过程，适用于不确定性环境。
• 理论分析表明，在自适应采样下算法收敛，对偶目标值构成一个次鞅，且迭代序列收敛至ε-最优解。

实验结果

研究问题

• RQ1 能否通过在每次迭代中仅动态采样部分场景而非全部，使渐进分布法在可扩展性和效率方面得到提升？
• RQ2 当底层概率分布未知或难以处理时，如何稳定并改进PHA的收敛性？
• RQ3 在收敛速度和数据效率方面，自适应采样结合随机共轭次梯度和线搜索是否能优于固定惩罚参数、全场景PHA？
• RQ4 在自适应场景选择和随机逼近下，基于采样的PHA可建立何种理论保证？
• RQ5 所提出的方法是否在显著降低计算负担的同时，保持或提升大规模随机规划问题的解质量？

主要发现

• 所提出的基于自适应采样的PHA在基准问题上收敛速度优于经典PHA，尤其在需要大量场景才能收敛的问题中表现更优。
• 基于采样的PHA的对偶目标值表现出次鞅性质，表明其在迭代过程中持续改进，而经典PHA不具备此特性。
• 实验结果表明，该算法具有更高的数据效率和可扩展性，由于动态场景采样，计算开销显著降低。
• 理论分析证实，该算法在适当假设下收敛至ε-最优解，且满足 |f(x*) - f(x̄k)| = O(ε)。
• 该方法消除了对显式概率分布的需求，避免了对惩罚参数调优的敏感性，增强了在实际应用中的鲁棒性。
• 随机共轭次梯度与线搜索的结合，实现了稳定且高效的对偶变量更新，从而改善了收敛行为。