[论文解读] A Sequential Quadratic Programming Method with High Probability Complexity Bounds for Nonlinear Equality Constrained Stochastic Optimization

Albert S. Berahas, Miaolan Xie+1 more|arXiv (Cornell University)|Jan 1, 2023

Risk and Portfolio OptimizationDecision Sciences被引用 3

一句话总结

本文提出了一种用于非线性等式约束随机优化的步长搜索序列二次规划（SS-SQP）方法，其中目标函数和梯度值仅通过不精确的概率零阶和一阶预言机访问。在合理假设下，该方法建立了高概率的迭代复杂度界 $ O( au^{-2}) $，以实现 $ \varepsilon $-一阶平稳性，与确定性 SQP 性能一致，并展现出对偏差和噪声估计的鲁棒性。

ABSTRACT

A step-search sequential quadratic programming method is proposed for solving nonlinear equality constrained stochastic optimization problems. It is assumed that constraint function values and derivatives are available, but only stochastic approximations of the objective function and its associated derivatives can be computed via inexact probabilistic zeroth- and first-order oracles. Under reasonable assumptions, a high-probability bound on the iteration complexity of the algorithm to approximate first-order stationarity is derived. Numerical results on standard nonlinear optimization test problems illustrate the advantages and limitations of our proposed method.

研究动机与目标

• 开发一种适用于仅通过不精确概率预言机获得目标函数及其梯度的随机近似值的非线性等式约束问题的鲁棒优化算法。
• 在一般假设下，建立收敛至一阶平稳性的高概率迭代复杂度界，包括预言机估计存在偏差的情况。
• 通过直接处理约束并利用可靠的约束信息，同时管理噪声目标评估，改进现有的随机惩罚和投影方法。
• 证明在步长搜索 SQP 框架中，结合精确约束数据与随机目标估计的有效性。
• 提供理论保证，其复杂度与确定性 SQP 一致，同时适用于函数和梯度评估不可靠的真实随机场景。

提出的方法

• 该算法在序列二次规划框架内采用步长搜索策略，允许在回溯过程中自适应调整搜索方向，不同于标准线搜索方法。
• 在每次迭代中，通过精确的约束值 $ c(x) $ 和 $ \nabla c(x)^T $ 求解一个二次子问题，同时依赖于不精确的概率预言机获取 $ f(x) $ 和 $ \nabla f(x) $。
• 不精确预言机通过控制精度和可靠性的参数进行定义，允许存在偏差的近似，并被建模为具有受控误差分布的随机变量。
• 使用一个增广函数来引导步长选择，确保对不可行性和最优性复合度量的充分下降。
• 该方法结合自适应回溯策略，即使在目标函数估计存在噪声的情况下，也能确保增广函数的充分下降。
• 理论分析依赖于对预言机误差的概率界，并假设标准正则性条件，如有界 Hessian 矩阵和梯度的利普希茨连续性。

实验结果

研究问题

• RQ1 步长搜索 SQP 方法是否能在具有不精确目标函数和梯度评估的非线性等式约束随机优化中，实现高概率的迭代复杂度界以达到一阶平稳性？
• RQ2 当函数和梯度估计均存在噪声时，所提出的 SS-SQP 方法与无目标函数信息的替代方法相比性能如何？
• RQ3 偏差或噪声较大的目标函数评估对依赖零阶信息的 SQP 方法的收敛性和鲁棒性有何影响？
• RQ4 在何种条件下，精确约束信息的可用性能显著提升收敛性能，相较于仅依赖随机目标近似的算法？
• RQ5 在现实的随机预言机假设下，所提方法的迭代复杂度是否能与确定性 SQP 方法保持一致？

主要发现

• 所提出的 SS-SQP 方法实现了高概率的迭代复杂度界 $ O(\varepsilon^{-2}) $，以达到 $ \varepsilon $-一阶平稳性，与确定性 SQP 的复杂度一致。
• 数值结果表明，当目标函数噪声相对于梯度噪声较低时，SS-SQP 在 KKT 误差和可行性方面优于无目标函数信息的方法（AS-SQP）。
• 随着梯度噪声的增加，SS-SQP 与 AS-SQP 之间的性能差距进一步扩大，凸显了精确约束信息的优势。
• 当目标函数评估高度噪声时，AS-SQP 表现更具竞争力，表明无目标函数信息方法在该类场景下具有鲁棒性。
• 该方法在不同噪声水平下均保持良好性能，性能表现图显示在中等至低噪声条件下具有更强的鲁棒性和有效性。
• 结果证实，可靠的客观函数信息显著提升了收敛性能，尤其在梯度估计存在噪声或偏差时。