[논문 리뷰] Projected Dynamical Systems on Irregular, Non-Euclidean Domains for Nonlinear Optimization

Adrian Hauswirth, Saverio Bolognani외 1명|arXiv (Cornell University)|2018. 09. 13.

Advanced Differential Geometry Research인용 수 7

한 줄 요약

이 논문은 Krasovskii 해를 사용하여 비유클리드적이고 비정규적인 도메인 위의 투영 동역계에 대한 일반화된 프레임워크를 제안하며, 비볼록이고 낮은 정규성 조건을 갖는 리만다이만다이만에서 존재성과 유일성을 새로운 형태의 프록스-정규성 정의를 통해 확립한다. 약한 조건 하에서 투영 경사 하강 흐름의 안정성과 수렴성을 증명하였으며, 이 조건들이 필수적임을 보여주는 반례도 제시한다.

ABSTRACT

Continuous-time projected dynamical systems are an elementary class of discontinuous dynamical systems with trajectories that remain in a feasible domain by means of projecting outward-pointing vector fields. They are essential when modeling physical saturation in control systems, constraints of motion, as well as studying projection-based numerical optimization algorithms. Motivated by the emerging application of feedback-based continuous-time optimization schemes that rely on the physical system to enforce nonlinear hard constraints, we study the fundamental properties of these dynamics on general locally-Euclidean sets. Among others, we propose the use of Krasovskii solutions, show their existence on nonconvex, irregular subsets of low-regularity Riemannian manifolds, and investigate how they relate to conventional Carath\\'eodory solutions. Furthermore, we establish conditions for uniqueness, thereby introducing a generalized definition of prox-regularity which is suitable for non-flat domains. Finally, we use these results to study the stability and convergence of projected gradient flows as an illustrative application of our framework. We provide simple counter-examples for our main results to illustrate the necessity of our already weak assumptions.

연구 동기 및 목표

• 비볼록이고 유클리드적이지 않은 도메인을 넘어, 비정규적이고 비유클리드적이며 비볼록인 리만다이만다이만에서의 투영 동역계 이론을 확장하기 위해.
• 기존의 Carathéodory 해가 비정규적이거나 비볼록인 도메인에서 실패할 수 있음을 고려하여, 더 강력한 대안으로 Krasovskii 해를 도입하기 위해.
• 비평탄한 저정규성 조건을 갖는 리만다이만다이만의 부분집합에 적합한 프록스-정규성의 일반화된 개념을 제안하여 궤적의 유일성을 보장하기 위해.
• 이러한 도메인에서 제약 조건이 있는 비선형 최적화 문제에 대해 투영 경사 하강 흐름의 안정성과 수렴 조건을 확립하기 위해.
• 제안된 약한 가정이 이론적 프레임워크에서 필수적임을 보여주는 반례를 제공하기 위해.

제안 방법

• 불연속적인 투영 동역계에 대해 비정규 도메인에서 Krasovskii 해를 주요 해 개념으로 채택하여, Carathéodory 해가 실패할 경우에도 존재성을 보장한다.
• 저정규성 조건을 갖는 리만다이만다이만의 부분집합에 적합한 일반화된 프록스-정규성의 개념을 정의하여 궤적의 유일성을 보장한다.
• 리만기하학을 사용하여 탄젠트 및 노말 콘의 정의를 내리고, 메트릭 $ g $ 를 사용하여 벡터장의 투영을 타당 집합의 탄젠트 콘에 수행한다.
• 변분해석학과 미분포함수의 도구를 적용하여, 집합과 다중값 함수의 외부 및 내부 극한을 분석하여 해의 행동을 분석한다.
• 연속적인 메트릭 하에서 노말 콘 사상의 외부 상반속성(outer semicontinuity)을 활용하여 해의 존재성과 정규성을 증명한다.
• 지역적으로 컴acts한 도메인에서 해의 존재성을 위한 핵심 기준으로, $ F(x) \bigcap T_x\tilde{X} \neq \emptyset $ 의 비어있지 않은 조건을 활용한다.

실험 결과

연구 질문

• RQ1 비볼록이고 비정규적이며 비유클리드 도메인에서 투영 동역계에 대한 Krasovskii 해가 존재하기 위한 조건은 무엇인가?
• RQ2 프록스-정규성이 비평탄한 저정규성 리만다이만다이만으로 일반화될 수 있는 방법은 무엇인가? 이는 투영 동역계에서 궤적의 유일성을 보장하기 위해 필요하다.
• RQ3 비연속적이거나 비볼록인 설정에서 Krasovskii 해와 고전적인 Carathéodory 해 사이의 관계는 어떠한가?
• RQ4 비유클리드 공간에서의 비수직 투영은 투영 시스템의 역학에 어떤 영향을 미치는가?
• RQ5 비정규적이며 비볼록인 리만다이만 제약집합에서 투영 경사 하강 흐름의 안정성과 수렴을 보장하기 위한 조건은 무엇인가?

주요 결과

• Carathéodory 해가 존재하지 않거나 유일하지 않을 경우에도, 저정규성 리만다이만다이만의 비볼록이고 비정규적인 부분집합 위에서 Krasovskii 해가 존재함을 입증하였다.
• 비평탄한 도메인에 적용 가능한 새로운 형태의 프록스-정규성 정의를 제안하였으며, 이는 Krasovskii 해의 유일성을 보장한다.
• 메트릭 $ g $ 의 연속성 하에서 노말 콘 사상 $ N^g_x\tilde{X} $ 의 외부 상반속성이 확립되었으며, 이는 존재성 증명을 뒷받침한다.
• 지역적으로 컴팩트한 도메인에서, $ F(x) \bigcap T_x\tilde{X} \neq \emptyset $ 는 국소 리프시츠 해의 존재성에 대해 必要하고 충분한 조건이다.
• 이 프레임워크를 통해 전력 시스템이나 물리적 제어 시스템에서 발생하는 복잡하고 비선형적이며 비볼록인 제약집합 위에서의 투영 경사 하강 흐름 분석이 가능해졌다.
• 제안된 가정들, 예를 들어 Clarke 정규성과 메트릭 연속성 등이 주요 존재성 및 유일성 결과를 위해 필수적임을 보여주는 반례가 제공되었다.