[논문 리뷰] Contraction analysis of nonlinear random dynamical systems

Nicolas Tabareau, Jean-Jacques Slotine|arXiv (Cornell University)|2013. 09. 20.

Control and Stability of Dynamical Systems참고 문헌 2인용 수 4

한 줄 요약

이 논문은 두 가지 새로운 안정성 개념인 거의 확실히 수축하는 것과 제곱 평균에서 수축하는 것을 도입하여 비선형 랜덤 동역계 시스템에 수축 이론을 확장한다. 노이즈 하에서 지수 수렴을 보장하는 충분조건를 확립함으로써, 표준 미분 분석 도구를 사용하여 노이즈 환경에서의 확률적 경사 하강법, 진동자 동기화, 시스템 조합 성질을 분석할 수 있게 한다.

ABSTRACT

In order to bring contraction analysis into the very fruitful and topical fields of stochastic and Bayesian systems, we extend here the theory describes in \cite{Lohmiller98} to random differential equations. We propose new definitions of contraction (almost sure contraction and contraction in mean square) which allow to master the evolution of a stochastic system in two manners. The first one guarantees eventual exponential convergence of the system for almost all draws, whereas the other guarantees the exponential convergence in $L_2$ of to a unique trajectory. We then illustrate the relative simplicity of this extension by analyzing usual deterministic properties in the presence of noise. Specifically, we analyze stochastic gradient descent, impact of noise on oscillators synchronization and extensions of combination properties of contracting systems to the stochastic case. This is a first step towards combining the interesting and simplifying properties of contracting systems with the probabilistic approach.

연구 동기 및 목표

• 비선형 확률적 시스템에 대한 안정성 분석 도구의 부족을 해결하기 위해 결정론적 수축 이론을 랜덤 미분 방정식으로 확장한다.
• 노이즈 하에서 다양한 수렴 행동을 포착하기 위해 새로운 두 가지 확률적 수축 정의—거의 확실히 수축하는 것과 제곱 평균에서 수축하는 것—을 제안한다.
• 이토 적분의 제약을 피하기 위해, 랜덤 미분 방정식을 통해 실현 가능한 시뮬레이션을 보장함으로써, 노이즈가 있는 시스템의 실용적 안정성 분석을 가능하게 한다.
• 확률적 경사 하강법, 진동자 동기화, 노이즈 하에서의 시스템 조합 성질과 같은 핵심 문제에 이 프레임워크를 적용함으로써 그 적용 가능성을 입증한다.
• 수축 시스템의 단순화된 성질과 확률 모델링 사이의 격차를 메우기 위해, 계산적으로 실현 가능한 안정성 조건을 제공한다.

제안 방법

• 실현 가능한 궤적을 보장하기 위해, 연속성과 왼쪽 극한이 존재하는( cadlag ) 확률 과정을 사용하여 이산시간 및 연속시간 랜덤 동역계 시스템을 정의한다.
• 거의 모든 표본 경로에 대해 지수 수렴을 보장하는 조건으로 '거의 확실히 수축하는 것'을 제안하며, 이는 자코비안 행렬의 스펙트럼 성질에 기반한다.
• 상태 편차의 기대 노름에 대한 경계를 사용하여, 유일한 궤적으로 제곱 평균에서의 지수 수렴을 보장하는 '제곱 평균에서 수축하는 것'을 도입한다.
• 유한한 노이즈와 음의 정부호가 아닌 자코비안을 가진 조건 하에서, 예측된 궤적이 지수적으로 수렴함을 보여줌으로써 확률적 경사 하강법에 이 те올리를 적용한다.
• 랜덤 결합 항을 가진 결합된 반도파르-볼로스 진동자 모델을 사용하여 진동자 동기화를 분석하고, 평균 결합 강도가 임계값을 초과할 경우 동기화가 발생함을 증명한다.
• 매개수 변화 방법과 그론발라 유형 부등식을 사용하여, 유한한 노이즈 하에서 궤적 간 기대 편차를 경계함으로써 안정성의 정량화를 가능하게 한다.

실험 결과

연구 질문

• RQ1 수축 이론은 비선형 랜덤 동역계 시스템으로 어떻게 확장될 수 있으며, 노이즈 하에서의 안정성 분석에 어떻게 기여할 수 있는가?
• RQ2 노이즈 존재 하에서 의미 있는 수렴 성질을 보장하기 위해 적절한 확률적 수축 정의는 무엇인가?
• RQ3 이 프레임워크는 노이즈가 있는 기울기 하강법을 분석하고, 노이즈가 있는 기울기 하강법에서도 수렴을 보장할 수 있는가?
• RQ4 가감성 노이즈는 결합된 진동자들의 동기화에 어떤 영향을 미치며, 수축 이론은 이러한 행동을 예측할 수 있는가?
• RQ5 수축 시스템의 조합 성질은 확률적 경우로 일반화될 수 있으며, 랜덤 편향 하에서도 안정성이 유지되는가?

주요 결과

• 거의 확실히 수축하는 조건은 자코비안의 최대 고유값이 균일하게 음수일 경우, 시스템의 모든 표본 경로가 공통 궤적으로 지수 수렴함을 보장한다.
• 제곱 평균에서 수축하는 조건은 기대 편차가 노이즈 크기 비례 항으로 경계되는 방식으로, 유일한 궤적으로 제곱 평균에서의 지수 수렴을 보장한다.
• 유한한 노이즈 하에서의 확률적 경사 하강법에서는, 목적 함수의 헤시안 행렬의 고유값이 균일하게 음의 정부호이면 예측된 궤적이 지수적으로 수렴한다.
• 결합된 반도파르-볼로스 진동자에서는, 평균 결합 강도가 1을 초과할 경우, 심한 노이즈 하에서도 거의 확실히 동기화가 발생한다.
• 유한한 노이즈 하에서 두 궤적 간 편차는 그론발라 부등식을 통해 유도된 노이즈 수준과 수축 속도를 포함하는 항으로 균일하게 경계된다.
• 이 프레임워크는 이토 적분의 이론적 제약을 피하면서도, 표준 상미분 방정식 해법기를 사용하여 노이즈가 있는 시스템의 실용적 시뮬레이션과 분석을 가능하게 한다.