[论文解读] On-line Non-Convex Constrained Optimization

Olivier Massicot, Jakub Mareček|arXiv (Cornell University)|Sep 16, 2019

Advanced Bandit Algorithms Research参考文献 25被引用 11

一句话总结

本文通过使用带有类似动量正则化的常微分方程（ODE）对时变问题进行建模，提出了一种用于在线非凸约束优化的预测-校正算法。该方法通过避免矩阵求逆，以每轮 O(n²) 的复杂度高效追踪局部最优解，并在较弱的结构假设（包括可行性与强制性）下证明了对临界点的全局收敛性。

ABSTRACT

Time-varying non-convex continuous-valued non-linear constrained optimization is a fundamental problem. We study conditions wherein a momentum-like regularising term allow for the tracking of local optima by considering an ordinary differential equation (ODE). We then derive an efficient algorithm based on a predictor-corrector method, to track the ODE solution.

研究动机与目标

• 填补在线非凸约束优化在理论与算法理解方面的空白，特别是针对时变目标函数与约束条件的问题。
• 建立结构条件，以证明时变非凸问题的局部最优解可通过连续时间动力系统进行追踪。
• 设计一种可扩展的、低复杂度的离散算法，避免矩阵求逆的同时保持对临界点的收敛性。
• 通过放宽对约束类型（等式与不等式）和时间平滑性（允许孤立间断）的假设，推广先前的工作。
• 利用李雅普诺夫稳定性与非游荡集分析，提供对收敛至临界点集合的理论保证。

提出的方法

• 通过引入类似动量的正则化项，将时变非凸优化问题建模为连续时间 ODE，以稳定对局部最优解的追踪。
• 采用预测-校正积分格式对 ODE 进行离散化，其中预测基于函数值与导数值，校正通过约束强制实现。
• 通过在更高维空间（u, Q）中重构牛顿步，设计算法以避免矩阵求逆，将每轮计算成本从 O(n³) 降低至 O(n²)。
• 应用李雅普诺夫稳定性理论与李雅普诺夫游荡者引理，证明在可行性与强制性假设下，轨迹收敛至临界点集合。
• 引入一种改进的连续牛顿法，通过引入辅助变量 Q 来近似逆 Hessian 矩阵，确保在有界 Fréchet 导数与良好条件逆的假设下实现全局收敛。
• 使用目标函数 f 作为李雅普诺夫函数，分析严格局部极小点的稳定性与严格局部极大点的不稳定性。

实验结果

研究问题

• RQ1 在何种条件下，时变非凸优化问题的局部最优解可被连续动力系统所追踪？
• RQ2 在同时包含等式与不等式约束的非凸问题中，类似动量的正则化项是否能稳定局部最优解的追踪？
• RQ3 是否可能设计一种每轮复杂度为 O(n²) 的离散时间算法，避免矩阵求逆，同时保持对临界点的收敛性？
• RQ4 可行性、强制性以及孤立时间间断等结构特性如何影响解轨迹的长期行为？
• RQ5 在非凸设置中，李雅普诺夫函数与非游荡集在证明收敛至临界点过程中的作用是什么？

主要发现

• 基于 ODE 的连续动力系统确保在可行性与强制性假设下，轨迹保持有界并收敛至临界点集合。
• 通过以 f 为李雅普诺夫函数的李雅普诺夫分析，证明严格局部极小点是渐近稳定的，而严格局部极大点则不稳定。
• 预测-校正算法通过在更高维空间中重构牛顿步，避免矩阵求逆，实现每轮 O(n²) 的复杂度。
• 在有界 Fréchet 导数与良好条件逆的假设下，全局收敛性得到保证，如 Ramm 定理对良好条件问题的形式化结果所示。
• 即使目标函数与约束函数存在孤立时间间断，只要问题在所有时刻均保持可行与强制，该方法仍能收敛至临界点。
• 理论分析确认解轨迹始终位于紧致的子水平集内，通过逃逸困境引理确保所有正时间下解的存在性。