[论文解读] Sample Average Approximation for Stochastic Programming with Equality Constraints

Thomas Lew, Riccardo Bonalli+1 more|arXiv (Cornell University)|Jun 20, 2022

Risk and Portfolio Optimization参考文献 34被引用 5

一句话总结

本文提出了一种用于具有期望值等式约束的随机规划问题的松弛样本平均近似（SAA）方法，这类约束在最优控制中很常见。通过松弛经验等式约束，并利用随机集理论与Hölder连续浓度不等式，作者证明了随着样本量增加，解几乎必然收敛到真实最优解，即使在较弱的光滑性与有界性条件下亦成立。

ABSTRACT

We revisit the sample average approximation (SAA) approach for non-convex stochastic programming. We show that applying the SAA approach to problems with expected value equality constraints does not necessarily result in asymptotic optimality guarantees as the sample size increases. To address this issue, we relax the equality constraints. Then, we prove the asymptotic optimality of the modified SAA approach under mild smoothness and boundedness conditions on the equality constraint functions. Our analysis uses random set theory and concentration inequalities to characterize the approximation error from the sampling procedure. We apply our approach and analysis to the problem of stochastic optimal control for nonlinear dynamical systems under external disturbances modeled by a Wiener process. Numerical results on relevant stochastic programs show the reliability of the proposed approach. Results on a rocket-powered descent problem show that our computed solutions allow for significant uncertainty reduction compared to a deterministic baseline.

研究动机与目标

• 解决标准SAA方法在具有期望值等式约束的随机规划问题中缺乏渐近最优性保证的问题。
• 克服在严格强制等式约束下经典SAA收敛性失效的问题。
• 在较弱假设下（包括约束函数的Hölder连续性与有界性）建立理论收敛性。
• 将SAA推广至同时包含等式与不等式约束的非凸随机规划问题。
• 实现对具有维纳过程扰动的非线性系统随机最优控制问题的可靠采样求解。

提出的方法

• 通过引入随样本量$N$减小的容差参数$\delta_N$，松弛SAA问题中的经验等式约束。
• 将可行集重新表述为随机紧集$C_N(\bar{\omega}) = \{u \in \mathcal{U} : \|h_N(u,\bar{\omega})\| \leq \delta_N\}$，从而可应用随机集理论。
• 利用随机紧集的均匀大数定律，证明可行集几乎必然收敛到真实可行集。
• 推导出针对$\alpha$-Hölder连续函数类的新浓度不等式，其条件弱于以往研究中使用的Lipschitz假设。
• 将该框架应用于通过随机微分方程求解非线性系统的开环随机最优控制问题。
• 在火星火箭动力下降问题上验证该方法，目标是最小化燃料消耗与最终状态方差。

实验结果

研究问题

• RQ1 标准SAA方法在应用于具有期望值等式约束的随机规划问题时，是否仍能保持渐近最优性？
• RQ2 SAA方法能否在弱于Lipschitz连续性的正则性条件下实现渐近最优性？
• RQ3 在何种条件下，松弛后的SAA问题能保持可行性，并随着样本量增大收敛到真实最优解？
• RQ4 如何结合随机集理论与浓度不等式，分析具有等式约束的采样随机规划问题的收敛性？
• RQ5 松弛SAA方法能否扩展至处理非凸随机规划问题中的等式与不等式约束？

主要发现

• 标准SAA方法在应用于具有期望值等式约束的随机规划问题时，即使样本量增加，也无法保证渐近最优性。
• 通过采用随样本量减小的容差$\delta_N = C N^{-(1/2 - \epsilon)}$松弛经验等式约束，改进后的SAA方法实现了解几乎必然收敛到真实最优解。
• 在较弱假设（A1–A3）下，该方法可确保对充分大的$N$，SAA问题$\bar{\mathbb{P}}$-几乎必然可行。
• 作者证明了针对$\alpha$-Hölder连续函数类的新浓度不等式，其条件弱于以往研究中使用的Lipschitz假设。
• 在额外假设成本函数具有$\alpha$-Hölder连续性时，SAA解的整个序列收敛到真实最优解，而不仅是一个子序列。
• 该方法成功应用于火星火箭动力下降问题，所得解同时最小化了燃料消耗与最终状态误差方差。