[论文解读] On Landscape of Lagrangian Functions and Stochastic Search for Constrained Nonconvex Optimization

Zhehui Chen, Xingguo Li+3 more|arXiv (Cornell University)|Jun 13, 2018

Sparse and Compressive Sensing Techniques参考文献 29被引用 5

一句话总结

本文提出了一类新型的拉格朗日函数，用于约束非凸优化，其平衡点仅包含稳定和不稳定两种，且稳定平衡点对应于全局最优解。提出了一种用于在线广义特征值问题的随机原始-对偶算法，并通过扩散近似首次建立了样本复杂度结果，同时给出了渐近收敛速率。

ABSTRACT

We study constrained nonconvex optimization problems in machine learning, signal processing, and stochastic control. It is well-known that these problems can be rewritten to a minimax problem in a Lagrangian form. However, due to the lack of convexity, their landscape is not well understood and how to find the stable equilibria of the Lagrangian function is still unknown. To bridge the gap, we study the landscape of the Lagrangian function. Further, we define a special class of Lagrangian functions. They enjoy two properties: 1.Equilibria are either stable or unstable (Formal definition in Section 2); 2.Stable equilibria correspond to the global optima of the original problem. We show that a generalized eigenvalue (GEV) problem, including canonical correlation analysis and other problems, belongs to the class. Specifically, we characterize its stable and unstable equilibria by leveraging an invariant group and symmetric property (more details in Section 3). Motivated by these neat geometric structures, we propose a simple, efficient, and stochastic primal-dual algorithm solving the online GEV problem. Theoretically, we provide sufficient conditions, based on which we establish an asymptotic convergence rate and obtain the first sample complexity result for the online GEV problem by diffusion approximations, which are widely used in applied probability and stochastic control. Numerical results are provided to support our theory.

研究动机与目标

• 理解在非凸约束优化中拉格朗日函数的景观特性，其中凸性不成立，且平衡点的理解尚不充分。
• 定义一类特殊的拉格朗日函数，其平衡点仅包含稳定和不稳定两种，确保稳定平衡点对应于全局最优解。
• 开发一种高效且适用于在线广义特征值问题的随机原始-对偶算法。
• 通过扩散近似，首次建立在线广义特征值问题的样本复杂度结果。

提出的方法

• 定义一类拉格朗日函数，其平衡点严格为稳定或不稳定，且稳定平衡点对应于原始约束问题的全局最优解。
• 利用不变群结构和对称性特性，刻画广义特征值问题中的稳定与不稳定平衡点。
• 提出一种随机原始-对偶算法，通过在原始和对偶更新之间交替，并引入噪声以逃逸不稳定平衡点。
• 使用扩散近似推导在线算法的渐近收敛速率和样本复杂度边界。
• 应用伊藤微积分和伊藤等距性原理，分析算法状态变量的随机动力学特性。
• 通过马尔可夫不等式和指数尾部估计，建立收敛到全局最优解的概率边界，从而提供理论保证。

实验结果

研究问题

• RQ1 在非凸约束优化中，拉格朗日函数的景观特性是否可以超越鞍点行为进行刻画？
• RQ2 是否存在一类拉格朗日函数，使得其稳定平衡点被保证为全局最优解？
• RQ3 在随机原始-对偶更新下，在线广义特征值问题的样本复杂度是多少？
• RQ4 扩散近似是否可用于推导该非凸设置下的收敛速率和样本复杂度边界？
• RQ5 问题的几何与对称性特性如何影响随机原始-对偶算法的收敛行为？

主要发现

• 所提出的拉格朗日函数类确保所有稳定平衡点均对应于原始约束问题的全局最优解。
• 对于广义特征值问题，利用群不变性和对称结构，可完全刻画稳定与不稳定平衡点。
• 所提出的随机原始-对偶算法实现了渐近收敛，样本复杂度为 $ N \asymp \frac{\phi \cdot \mu_{\text{max}}/\mu_{\text{min}}}{\epsilon \cdot \mu_{1} \cdot \mu_{\text{min}} \cdot \text{gap}^2} \log\left(\frac{\phi}{\epsilon \cdot \mu_{\text{min}} \cdot \text{gap}}\right) $，这是针对在线广义特征值问题的首个此类结果。
• 以至少 $ \frac{5}{8} $ 的高概率，该算法在 $ T \asymp \frac{\mu_{\text{max}}/\mu_{\text{min}}}{\mu_{1} \cdot \text{gap}} \log(\eta^{-1}) $ 次迭代内收敛至 $ \epsilon $-最优解。
• 理论分析表明，由于负曲率的存在，该算法能高效逃逸不稳定平衡点，其状态演化过程的概率边界得到支持。
• 数值结果验证了理论收敛速率与样本复杂度，表明该算法在在线广义特征值问题上具有稳健性能。