[论文解读] Worst-Case Complexity of an SQP Method for Nonlinear Equality Constrained Stochastic Optimization

Frank E. Curtis, Michael J. O’Neill+1 more|arXiv (Cornell University)|Dec 29, 2021

Stochastic Gradient Optimization Techniques被引用 4

一句话总结

本文针对具有随机目标函数的非线性等式约束优化问题，提出了随机序列二次规划（SQP）方法的最坏情况复杂度分析。即使在增广参数自适应更新的情况下，该方法仍能以高概率实现 ${\cal O}(\varepsilon^{-4})$ 次迭代复杂度，与无约束情况下的随机梯度方法相当。

ABSTRACT

A worst-case complexity bound is proved for a sequential quadratic optimization (commonly known as SQP) algorithm that has been designed for solving optimization problems involving a stochastic objective function and deterministic nonlinear equality constraints. Barring additional terms that arise due to the adaptivity of the monotonically nonincreasing merit parameter sequence, the proved complexity bound is comparable to that known for the stochastic gradient algorithm for unconstrained nonconvex optimization. The overall complexity bound, which accounts for the adaptivity of the merit parameter sequence, shows that a result comparable to the unconstrained setting (with additional logarithmic factors) holds with high probability.

研究动机与目标

• 分析用于求解具有确定性非线性等式约束的随机优化问题的SQP方法的最坏情况迭代复杂度。
• 解决由自适应增广参数更新引入的理论挑战，该更新在优化过程中动态改变增广函数。
• 将现有复杂度结果——此前仅限于无约束或简单约束问题——推广至随机等式约束优化领域。
• 证明在自适应增广参数选择下，收敛速率仍与无约束随机梯度方法相当，仅相差对数因子。
• 提供一个高概率复杂度界，以同时考虑梯度估计中的随机性以及增广参数序列的自适应性。

提出的方法

• 算法在增广函数上使用线搜索以保证充分下降，并单调非增地更新增广参数序列。
• 使用具有有界方差的随机梯度估计替代精确梯度，从而适用于大规模或基于模拟的问题。
• 通过序列二次规划求解近似满足最优性一阶条件的子问题。
• 采用增广函数来平衡目标函数改进与约束违反程度，增广参数根据优化进展自适应更新。
• 分析基于随机逼近框架，结合条件期望与尾概率界，以控制自适应参数更新的影响。
• 关键技术工具包括针对梯度步长符号与增广参数更新相关联的三种不同事件所设计的修正引理，并结合并集界推导出高概率结果。

实验结果

研究问题

• RQ1 当应用于具有自适应增广参数更新的随机等式约束优化问题时，SQP方法的最坏情况迭代复杂度是多少？
• RQ2 当增广参数未知并自适应更新时，与已知阈值的理想情形相比，复杂度界如何变化？
• RQ3 尽管存在梯度估计的随机性以及增广函数的动态变化，能否对随机SQP方法的收敛速率建立高概率有界？
• RQ4 增广参数序列的自适应性在多大程度上影响收敛速率？该复杂度界是否仍能与无约束随机梯度方法的界相匹配？
• RQ5 本文所发展的分析技术是否可推广至其他约束随机优化中的自适应方法，如增广拉格朗日法或内点法？

主要发现

• 自适应SQP方法的最坏情况复杂度界为 ${\cal O}(\varepsilon^{-4})$ 次迭代，以高概率达到一个点，使得拉格朗日函数梯度的期望范数与约束违反度均为 $\mathcal{O}(\varepsilon)$。
• 该复杂度界与无约束非凸设置下随机梯度方法的复杂度界相当，仅相差由自适应增广参数序列引起的对数因子。
• 高概率保证完全源于自适应增广参数更新的不确定性，而非梯度估计本身的随机性。
• 分析表明，该方法实现的原-对偶平稳性度量以 $k^{-4}$ 的速率衰减，忽略对数项。
• 该结果在标准假设下成立，包括随机梯度的有界方差，以及目标函数与约束函数的Lipschitz连续性。
• 该理论框架可推广至其他约束随机优化中的自适应方法，如惩罚函数法、增广拉格朗日法和内点法，因其对动态参数序列具有通用处理方式。