[论文解读] On the Łojasiewicz Exponent of the Quadratic Sphere Constrained Optimization Problem

Bin Gao, Xin Liu+2 more|arXiv (Cornell University)|Nov 27, 2016

Optimization and Variational Analysis参考文献 23被引用 9

一句话总结

该论文为带有线性项的二次球面约束优化问题建立了全局 Łojasiewicz 梯度不等式，指数为 θ = 3/4，证明了该不等式在存在线性项的问题中依然成立。该结果是紧致的，由 Ting Kei Pong 提供的反例得以验证，这是首次在包含线性项的球面约束设置下，获得该指数的 Łojasiewicz 不等式。

ABSTRACT

In this paper, we prove that the global version of the $Ł$ojasiewicz gradient inequality holds for quadratic sphere constrained optimization problem with exponent $θ=\frac{3}{4}$. An example from Ting Kei Pong shows that $θ=\frac{3}{4}$ is tight. This is the first $Ł$ojasiewicz gradient inequality established for the sphere constrained optimization problem with a linear term.

研究动机与目标

• 为带有线性项的单位球面约束二次优化问题建立全局 Łojasiewicz 梯度不等式。
• 确定该类问题 Łojasiewicz 指数 θ 的最优值。
• 证明 θ = 3/4 是紧致的，即不存在更小的指数可使不等式成立。
• 将 Łojasiewicz 不等式的适用范围扩展至包含线性项的更广泛约束优化问题类别。

提出的方法

• 利用二次函数在单位球面上的结构，推导梯度在临界点附近行为的界。
• 证明依赖于 Hessian 矩阵的谱分解及在球面约束下特征值的性质。
• 通过约束流形中的对称性与正交性，将问题约化为低维子问题。
• 利用 Ting Kei Pong 构造的特定反例，证明 θ = 3/4 的紧致性。

实验结果

研究问题

• RQ1 对于带有线性项的二次球面约束优化问题，全局梯度不等式的最优 Łojasiewicz 指数 θ 是多少？
• RQ2 该类问题的 Łojasiewicz 不等式能否在全局范围内建立？
• RQ3 θ = 3/4 是否为使不等式成立的最小可能指数？
• RQ4 在线性项存在的情况下，是否会影响球面约束问题中 Łojasiewicz 指数的取值？

主要发现

• 全局 Łojasiewicz 梯度不等式在指数 θ = 3/4 下，对带有线性项的二次球面约束优化问题成立。
• 通过 Ting Kei Pong 提供的反例，证明了指数 θ = 3/4 是最优的。
• 这是首次在包含线性项的球面约束问题中，建立该指数的 Łojasiewicz 不等式。
• 该结果确认了在此类约束下优化算法的收敛速率行为。