[论文解读] Error Bounds for Parametric Polynomial Systems with Applications to Higher-Order Stability Analysis and Convergence Rates

G. Li, Boris S. Mordukhovich+2 more|arXiv (Cornell University)|Sep 12, 2015

Optimization and Variational Analysis参考文献 24被引用 5

一句话总结

本文利用变分分析与半代数几何的工具，为具有无限可变参数集的参数多项式系统建立了显式的高阶（Hölder型）误差界。它将 Łojasiewicz 梯度不等式推广至上确界边际函数，并在多项式数据下推导出优化算法与次梯度动力系统的显式可计算收敛速率，应用涵盖广义半无限规划与二阶锥规划。

ABSTRACT

The paper addresses parametric inequality systems described by polynomial functions in finite dimensions, where state-dependent infinite parameter sets are given by finitely many polynomial inequalities and equalities. Such systems can be viewed, in particular, as solution sets to problems of generalized semi-infinite programming with polynomial data. Exploiting the imposed polynomial structure together with powerful tools of variational analysis and semialgebraic geometry, we establish a far-going extension of the Łojasiewicz gradient inequality to the general nonsmooth class of supremum marginal functions as well as higher-order (Hölder type) local error bounds results with explicitly calculated exponents. The obtained results are applied to higher-order quantitative stability analysis for various classes of optimization problems including generalized semi-infinite programming with polynomial data, optimization of real polynomials under polynomial matrix inequality constraints, and polynomial second-order cone programming. Other applications provide explicit convergence rate estimates for the cyclic projection algorithm to find common points of convex sets described by matrix polynomial inequalities and for the asymptotic convergence of trajectories of subgradient dynamical systems in semialgebraic settings.

研究动机与目标

• 为具有无限可变参数集的参数多项式不等式系统建立显式的局部误差界，其指数为 Hölder 型。
• 将 Łojasiewicz 梯度不等式推广至多项式系统中出现的非光滑上确界边际函数类。
• 对具有多项式数据的优化问题提供定量的高阶稳定性分析，包括广义半无限规划与二阶锥规划。
• 在半代数设定下，推导循环投影算法与次梯度动力系统显式的收敛速率估计。
• 通过新颖的误差界技术，解决非凸多项式优化中收敛速率的开放问题。

提出的方法

• 利用半代数几何与变分分析，研究由有限个多项式不等式与等式定义的参数多项式系统。
• 应用广义微分与半代数集理论的高级工具，推导上确界边际函数的误差界。
• 利用多项式结构与参数集的紧致性，将 Łojasiewicz 不等式远距离推广至非光滑的上确界型函数。
• 推导出显式的 Hölder 型误差界，其指数可由变量个数、多项式次数与参数集维数计算得出。
• 将误差界结果应用于分析循环投影算法在由矩阵多项式不等式定义的凸集中寻找公共点的收敛性。
• 利用扩展的 Łojasiewicz 不等式与轨迹分析，推导出具有半代数目标函数的次梯度动力系统显式的渐近收敛速率。

实验结果

研究问题

• RQ1 能否为具有无限且可变参数集的参数多项式系统建立显式的 Hölder 型误差界？
• RQ2 如何将 Łojasiewicz 梯度不等式推广至多项式优化中出现的非光滑上确界边际函数？
• RQ3 当应用于由矩阵多项式不等式定义的凸集时，循环投影算法的显式收敛速率是什么？
• RQ4 具有半代数目标函数的次梯度动力系统中轨迹的渐近收敛速率是多少？
• RQ5 能否为广义半无限规划与多项式二阶锥规划推导出显式的高阶稳定性估计？

主要发现

• 本文首次将 Łojasiewicz 梯度不等式推广至上确界边际函数，使非光滑设定下的误差界分析成为可能。
• 推导出显式的 Hölder 型误差界，其指数可由变量个数、多项式次数与参数空间维数计算得出。
• 对于具有多项式数据的广义半无限规划，本文提供了显式的高阶稳定性估计，并量化了收敛速率。
• 在由矩阵多项式不等式定义的凸集中寻找公共点的循环投影算法，其收敛速率为 $ t^{-rac{1}{2 heta-1}} $，其中 $ heta = 1 - \tau $，且 $ \tau $ 可显式确定。
• 具有半代数目标函数的次梯度动力系统收敛至临界点，其显式收敛速率为 $ \|x(t) - \bar{x}\| \leq c(t+1)^{-(1-\theta)/(2\theta-1)} $，其中 $ \theta $ 可由问题的多项式数据计算得出。
• 收敛速率估计是显式的，且仅依赖于变量个数、约束个数与涉及多项式的最大次数。