[论文解读] Convergence to Second-Order Stationarity for Constrained Non-Convex Optimization

Maher Nouiehed, Jason D. Lee+1 more|arXiv (Cornell University)|Oct 4, 2018

Stochastic Gradient Optimization Techniques参考文献 41被引用 17

一句话总结

该论文提出了一种用于约束非凸优化的动态二阶Frank–Wolfe算法，可在 $\mathcal{O}(\max\{\epsilon_g^{-2}, \epsilon_H^{-3}\})$ 次迭代内收敛至 $(\epsilon_g, \epsilon_H)$-二阶平稳点。研究证明，在线性约束下验证二阶平稳性仍是NP难问题，但识别出该方法可高效适用的特定情形，通过自适应步长和子问题求解实现收敛性保证。

ABSTRACT

We consider the problem of finding an approximate second-order stationary point of a constrained non-convex optimization problem. We first show that, unlike the gradient descent method for unconstrained optimization, the vanilla projected gradient descent algorithm may converge to a strict saddle point even when there is only a single linear constraint. We then provide a hardness result by showing that checking $(ε_g,ε_H)$-second order stationarity is NP-hard even in the presence of linear constraints. Despite our hardness result, we identify instances of the problem for which checking second order stationarity can be done efficiently. For such instances, we propose a dynamic second order Frank--Wolfe algorithm which converges to ($ε_g, ε_H$)-second order stationary points in ${\mathcal{O}}(\max\{ε_g^{-2}, ε_H^{-3}\})$ iterations. The proposed algorithm can be used in general constrained non-convex optimization as long as the constrained quadratic sub-problem can be solved efficiently.

研究动机与目标

• 为解决在约束非凸优化中寻找二阶平稳点的挑战，因为一阶方法可能收敛至严格鞍点。
• 建立验证 $(\epsilon_g, \epsilon_H)$-二阶平稳性的计算困难性，即使在具有线性约束的情况下也是如此。
• 设计一种实用算法，当约束二次子问题可解时，能高效收敛至二阶平稳点。
• 提供与无约束问题中最佳已知速率相匹配的迭代复杂度界，同时将其扩展至约束情形。

提出的方法

• 提出一种动态二阶Frank–Wolfe算法，根据梯度和Hessian信息自适应选择搜索方向与步长。
• 采用一种线搜索机制，结合充分下降条件与基于曲率的接受准则，以确保进展。
• 通过参数 $\alpha_k$ 实现类似信赖域的机制，当未达到充分下降时，自适应减小 $\alpha_k$。
• 引入一个关键条件，涉及 $\psi_{k,\alpha_k}$ 和 $\mathcal{X}_k$，用于基于梯度和Hessian曲率判断是否接受某一步。
• 依赖于每次迭代中目标函数的下降界限，该界限由二阶下降引理推导得出，以建立收敛性。
• 通过证明 $\mathcal{X}_k$ 和 $\psi_{k,\alpha_k}$ 在极限下趋于零，从而证明收敛至二阶平稳点。

实验结果

研究问题

• RQ1 在非凸优化中，即使只有一个线性约束，投影梯度下降算法是否可能收敛至严格鞍点？
• RQ2 在存在线性约束的情况下，验证 $(\epsilon_g, \epsilon_H)$-二阶平稳性是否具有计算可 tractability？
• RQ3 能否将Frank–Wolfe类算法改进以实现在约束非凸问题中的二阶平稳性？
• RQ4 在约束设置下，达到 $(\epsilon_g, \epsilon_H)$-二阶平稳性的最坏情况迭代复杂度是多少？
• RQ5 在何种条件下，约束二次子问题可被高效求解，从而支持二阶收敛？

主要发现

• 朴素的投影梯度下降算法即使在单一线性约束下，也可能收敛至严格鞍点，揭示了其根本局限性。
• 即使约束为线性，验证 $(\epsilon_g, \epsilon_H)$-二阶平稳性仍是NP难问题，确立了计算障碍。
• 所提出的动态二阶Frank–Wolfe算法可在 $\mathcal{O}(\max\{\epsilon_g^{-2}, \epsilon_H^{-3}\})$ 次迭代内收敛至 $(\epsilon_g, \epsilon_H)$-二阶平稳点。
• 该算法通过结合梯度范数与曲率的条件，确保目标函数充分下降，该条件以 $\psi_{k,\alpha_k}$ 和 $\mathcal{X}_k$ 形式形式化。
• 满足 $\|\nabla f(x_k)\| > \epsilon_g$ 或 $\psi_{k,\alpha_k} > \epsilon_H$ 的迭代次数分别有界于 $\mathcal{O}(\epsilon_g^{-2})$ 和 $\mathcal{O}(\epsilon_H^{-3})$。
• 通过证明 $\lim_{k\to\infty} \mathcal{X}_k = \lim_{k\to\infty} \psi_{k,\alpha_k} = 0$，证明了收敛至二阶平稳点，意味着所有极限点均为二阶平稳点。