[论文解读] Projected Dynamical Systems on Irregular, Non-Euclidean Domains for Nonlinear Optimization

Adrian Hauswirth, Saverio Bolognani+1 more|arXiv (Cornell University)|Sep 13, 2018

Advanced Differential Geometry Research被引用 7

一句话总结

本文提出了一种在不规则、非欧几里得流形上使用Krasovskii解的投影动力系统广义框架，通过一种新颖的近端正规性定义，在非凸、低正则性的黎曼流形上建立了存在性与唯一性。该文在弱假设下证明了投影梯度流的稳定性和收敛性，并通过反例说明了这些条件的必要性。

ABSTRACT

Continuous-time projected dynamical systems are an elementary class of discontinuous dynamical systems with trajectories that remain in a feasible domain by means of projecting outward-pointing vector fields. They are essential when modeling physical saturation in control systems, constraints of motion, as well as studying projection-based numerical optimization algorithms. Motivated by the emerging application of feedback-based continuous-time optimization schemes that rely on the physical system to enforce nonlinear hard constraints, we study the fundamental properties of these dynamics on general locally-Euclidean sets. Among others, we propose the use of Krasovskii solutions, show their existence on nonconvex, irregular subsets of low-regularity Riemannian manifolds, and investigate how they relate to conventional Carath\\'eodory solutions. Furthermore, we establish conditions for uniqueness, thereby introducing a generalized definition of prox-regularity which is suitable for non-flat domains. Finally, we use these results to study the stability and convergence of projected gradient flows as an illustrative application of our framework. We provide simple counter-examples for our main results to illustrate the necessity of our already weak assumptions.

研究动机与目标

• 将投影动力系统理论从凸的欧几里得域推广至不规则、非欧几里得且非凸的黎曼流形。
• 通过引入Krasovskii解作为更鲁棒的替代方案，解决经典Carathéodory解在非正则或非凸域中失效的问题。
• 将近端正规性的概念推广至非平坦、低正则性的流形，以确保轨迹的唯一性。
• 在这些域上建立约束非线性优化中投影梯度流稳定性和收敛性的条件。
• 提供反例以证明所提弱假设在理论框架中的必要性。

提出的方法

• 采用Krasovskii解作为不规则域上不连续投影动力系统的主要解概念，确保当Carathéodory解失效时仍能保证存在性。
• 定义适用于低正则性黎曼流形子集的广义近端正规性概念，以实现轨迹的唯一性。
• 利用黎曼几何定义切锥与法锥，并通过度量 $ g $ 将向量场投影到可行集的切锥上。
• 应用变分分析与微分包含中的工具，包括集合与集值映射的外极限与内极限，以分析解的行为。
• 利用法锥映射在外半连续性在连续度量下的性质，证明解的存在性与正则性。
• 将可行性条件 $ F(x) \bigcap T_x\tilde{X} \neq \emptyset $ 作为局部紧致域上解存在性的关键准则。

实验结果

研究问题

• RQ1 在非凸、不规则、非欧几里得域上，投影动力系统的Krasovskii解在何种条件下存在？
• RQ2 如何将近端正规性推广至黎曼流形，以确保投影动力系统中轨迹的唯一性？
• RQ3 在非光滑或非凸设置下，Krasovskii解与经典Carathéodory解之间有何关系？
• RQ4 非欧几里得空间中非正交投影如何影响投影系统的动力学？
• RQ5 在不规则、非凸、黎曼约束集上，何种条件能保证投影梯度流的稳定性和收敛性？

主要发现

• Krasovskii解存在于非凸、不规则的低正则性黎曼流形子集上，即使Carathéodory解不存在或不唯一。
• 提出了一种适用于非平坦流形的广义近端正规性定义，可确保Krasovskii解的唯一性。
• 在度量 $ g $ 连续的条件下，建立了法锥映射 $ N^g_x\tilde{X} $ 的外半连续性，支持了解的存在性证明。
• 可行性条件 $ F(x) \bigcap T_x\tilde{X} \neq \emptyset $ 在局部紧致域上既是局部Lipschitz解存在的必要条件，也是充分条件。
• 该框架使得对复杂、非线性且非凸约束集上投影梯度流的分析成为可能，例如电力系统或物理控制系统中出现的情形。
• 提供了反例以表明所提假设（如Clarke正则性与度量连续性）对于主要的存在性与唯一性结果是必要的。