[논문 리뷰] Chance-constrained quasi-convex optimization with application to data-driven switched systems control

Guillaume O. Berger, Raphaël M. Jungers외 1명|arXiv (Cornell University)|2021. 01. 05.

Risk and Portfolio Optimization인용 수 6

한 줄 요약

이 논문은 확률적 제약 조건을 갖는 준선형 최적화를 소개하며, 이는 확률적 제약 조건을 갖는 볼록 최적화를 준볼록 문제의 하위집합인 '준선형 문제'로 확장한 프레임워크이다. 최적성을 유지하는 유한한 필수 제약 조건 집합의 존재를 증명하여 데이터 기반 제어에서 확률적 보장을 가능하게 한다. 주요 기여는 샘플된 궤적만을 사용하여 블랙박스 스위치 선형 시스템의 공동 스펙트럴 반경(JSR)에 대한 확률적 상한 및 하한을 샘플 효율적으로 계산하는 방법이다.

ABSTRACT

We study quasi-convex optimization problems, where only a subset of the constraints can be sampled, and yet one would like a probabilistic guarantee on the obtained solution with respect to the initial (unknown) optimization problem. Even though our results are partly applicable to general quasi-convex problems, in this work we introduce and study a particular subclass, which we call "quasi-linear problems". We provide optimality conditions for these problems. Thriving on this, we extend the approach of chance-constrained convex optimization to quasi-linear optimization problems. Finally, we show that this approach is useful for the stability analysis of black-box switched linear systems, from a finite set of sampled trajectories. It allows us to compute probabilistic upper bounds on the JSR of a large class of switched linear systems.

연구 동기 및 목표

• 오직 일부 제약 조건만을 샘플링할 수 있는 경우, 특히 데이터 기반 제어 환경에서 불확실성 하에 최적화를 수행하는 데 도전하는 문제를 다루는 것.
• 준볼록 문제에 특화된 확률적 제약 조건 최적화를 위한 이론적 프레임워크를 개발하며, '준선형 문제'라고 불리는 새로운 하위집합에 집중하는 것.
• 유한한 수의 제약 조건만을 샘플링함에도 불구하고 해의 품질에 대한 확률적 보장을 제공하여, 알려지지 않은 시스템 행동에 대한 강건성을 확보하는 것.
• 시스템 동역학이 알려지지 않았지만 궤적이 관측 가능한 블랙박스 스위치 선형 시스템의 안정성 분석에 이 프레임워크의 유용성을 보여주는 것.
• 데이터 기반 제어와 모델 기반 제어 사이의 격차를 메우기 위해, 복잡한 하이브리드 시스템에 대한 효율적이고 확률적으로 보장된 분석을 가능하게 하는 것.

제안 방법

• 결정 변수에 대해 선형이고, 매개변수 벡터에 대해 준볼록인 제약 조건 함수를 갖는 문제를 '준선형 문제'로 정의한다.
• 전체 제약 조건 집합과 동일한 최적 해를 도출할 수 있는 유한하고 유계인 '필수 제약 조건 집합'의 존재를 증명하며, 이는 이전 결과보다 더 엄격한 경계와 더 느슨한 가정을 제공한다.
• 준선형 문제의 구조를 활용하여, 원래 볼록 문제를 위해 개발된 확률적 제약 조건 최적화 기법을 비볼록이지만 구조화된 이 클래스로 확장한다.
• 공동 스펙트럴 반경(JSR) 계산을 준선형 최적화 문제로 재구성함으로써 스위치 선형 시스템의 안정성 분석에 이 프레임워크를 적용한다.
• 샘플된 시스템 궤적을 사용하여 시스템 행동을 나타내는 선형 부등식을 생성하고, 이를 통해 확률적 제약 조건 최적화를 적용하여 JSR에 대한 확률적 상한 및 하한을 계산한다.
• 단위 구면 위에서 균일한 샘플링을 유지하기 위해 직교 행렬을 사용한 투영 단계를 도입하여 샘플된 제약 조건의 통계적 타당성을 보장한다.

실험 결과

연구 질문

• RQ1 확률적 제약 조건 최적화는 볼록 문제에서 준볼록 문제로 일반화될 수 있는가? 특히 데이터 기반 제어 맥락에서 그렇다면 어떻게?
• RQ2 준볼록 문제의 어떤 구조적 성질이 최적성을 유지하는 유한하고 유계인 필수 제약 조건 집합의 존재를 가능하게 하는가?
• RQ3 유한한 수의 제약 조건만을 샘플링할 경우 최적화 해의 품질에 대한 확률적 보장을 어떻게 확보할 수 있는가?
• RQ4 이 프레임워크는 동역학이 알려지지 않은 스위치 선형 시스템의 안정성 분석에 효과적으로 적용될 수 있는가?
• RQ5 기존의 데이터 기반 JSR 추정 방법에 비해 제안된 방법의 샘플 효율성은 어떠한가?

주요 결과

• 논문은 준선형 문제에 대해 결정 변수의 차원 $ n $ 에 대해 최대 $ n $ 개의 제약 조건을 갖는 필수 제약 조건 집합이 존재하며, 이는 전체 제약 조건 집합과 동일한 최적 해를 도출함을 입증한다.
• 이전 결과에서 '지속적으로 수축하는 제약 조건'이라는 가정을 제거하고 더 엄격한 경계를 제공함으로써 필수 제약 조건 집합 크기의 경계를 향상시켰다.
• 제안된 방법은 오직 유한한 수의 샘플된 궤적만을 사용하여 스위치 선형 시스템의 공동 스펙트럴 반경(JSR)에 대한 확률적 상한 및 하한을 계산할 수 있도록 한다.
• 수치 실험에서 제안된 경계는 Kenanian 등(2019)의 방법보다 더 적은 샘플 수로 진짜 JSR에 수렴하며, 동일한 신뢰 수준($ \beta = 0.05 $)을 확보한다.
• 이 프레임워크는 시스템 행렬이 알려지지 않았지만 상태 궤적이 관측 가능한 다중 에이전트 네트워크의 일치성 분석과 같이 실제 데이터 기반 제어 문제에 적용 가능하다.
• 이 방법은 LMI 제약 조건을 샘플된 선형 부등식으로 대체함으로써, SDP를 확률적 제약 조건 최적화에 적합한 준선형 프로그램으로 변환함으로써 다른 제어 문제로 일반화 가능하다.