[논문 리뷰] Unsupervised Learning for Nonlinear PieceWise Smooth Hybrid Systems

Gilwoo Lee, Zita Marinho외 4명|arXiv (Cornell University)|2017. 10. 02.

Control Systems and Identification참고 문헌 13인용 수 8

한 줄 요약

이 논문은 가우시안 프로세스 회귀와 입자 필터링을 사용하여 비모수적이고 비지도 학습 프레임워크를 제안한다. 이는 비선형 조각별 평탄한 하이브리드 시스템(PWS-HS)을 학습하기 위한 것이다. 조각별 평탄성과 가드 영역을 활용하고, 전이가 희소한 점을 보완하기 위해 합성 오버샘플링을 적용함으로써, EKF, 스위칭 GP, 표준 GP 모델에 비해 다단계 예측 및 추적 성능이 뛰어나며, 특히 모드 전이 시에 유의미한 성능 향상을 이룬다.

ABSTRACT

This paper introduces a novel system identification and tracking method for PieceWise Smooth (PWS) nonlinear stochastic hybrid systems. We are able to correctly identify and track challenging problems with diverse dynamics and low dimensional transitions. We exploit the composite structure system to learn a simpler model on each component/mode. We use Gaussian Process Regression techniques to learn smooth, nonlinear manifolds across mode transitions, guard-regions, and make multi-step ahead predictions on each mode dynamics. We combine a PWS non-linear model with a particle filter to effectively track multi-modal transitions. We further use synthetic oversampling techniques to address the challenge of detecting mode transition which is sparse compared to mode dynamics. This work provides an effective form of model learning in a complex hybrid system, which can be useful for future integration in a reinforcement learning setting. We compare multi-step prediction and tracking performance against traditional dynamical system tracking methods, such as EKF and Switching Gaussian Processes, and show that this framework performs significantly better, being able to correctly track complex dynamics with sparse transitions.

연구 동기 및 목표

• 사전 모델 지식이 거의 없는 상황에서 희소하고 저차원의 모드 전이를 가지는 복잡한 비선형 하이브리드 시스템을 학습하는 데 도전하는 것.
• 비전이 동역학에 비해 전이가 희소하기 때문에 전이 모드를 식별하는 데 어려움을 해결하는 것.
• 전이가 발생하는 조각별 평탄한 동역학과 결정론적 가드 영역을 갖는 PWS-HS를 모델링하는 것.
• 닫힌 형태의 식이 필요 없는 비모수적이고 비지도 학습 시스템을 개발하여 모드, 동역학, 리셋 함수를 동시에 추정하는 것.
• 복잡하고 다중 모드의 전이를 거치는 하이브리드 시스템에서 정확한 다단계 예측과 강건한 추적을 가능하게 하는 것.

제안 방법

• 각 모드를 별도로 가우시안 프로세스 회귀를 통해 모델링하는 복합 구조를 사용하여, 모드 간에 부드럽고 비선형적인 함수 근사가 가능하도록 한다.
• 시스템의 조각별 평탄한 구조를 기반으로 데이터 포인트를 모드에 할당하기 위해 스펙트럴 클러스터링을 적용한다.
• 모드별로 동역학과 전이 모델을 갖춘 입자 필터를 사용하여 상태 궤적을 추적하고 모드에 대한 사후 분포를 추정한다.
• 전이 영역의 희소한 데이터를 보완하기 위해 가드 영역에서 합성 오버샘플링을 도입하여 전이 조건의 탐지 성능을 향상시킨다.
• 반복적으로 모드 할당과 하위계 추정을 교차 최적화 과정을 통해 개선하여 진짜 하이브리드 시스템에 가까운 근사에 수렴한다.
• 모드 간 전이를 결정론적 리셋 함수 $ r_{m,m'} $ 를 통해 모델링하여 하이브리드 시스템의 의미를 유지한다.

실험 결과

연구 질문

• RQ1 비지도 비모수적 방법이 모드 경계와 전이가 알려져 있지 않은 비선형 PWS-HS의 동역학을 효과적으로 학습할 수 있는가?
• RQ2 조각별 평탄성과 가드 영역을 어떻게 활용하여 하이브리드 시스템에서 모드 식별과 함수 근사 성능을 향상시킬 수 있는가?
• RQ3 전이 영역의 합성 오버샘플링이 전이 탐지 및 모델링에 얼마나 기여하는가?
• RQ4 EKF, 표준 GP, 스위칭 GP에 비해 제안된 방법이 다단계 예측 및 추적 정확도에서 어떤가, 특히 전이 근처에서 어떻게 성능을 냈는가?
• RQ5 기존 방법이 실패하는 전이 근처에서 이 프레임워크가 다중 모드 동역학을 포착할 수 있는가?

주요 결과

• 제안된 하이브리드 방법은 EKF, 표준 GP, 스위칭 GP에 비해 다단계 예측 및 추적에서 뚜렷한 성능 향상을 보이며, 특히 모드 전이 시에 두드러진다.
• 낙상 공 실험에서 하이브리드 모델은 리셋 동역학(속도 반전)을 정확히 포착하고 전이 중에도 높은 로그우도를 유지하는 반면, EKF와 스위칭 GP는 그렇지 못하다.
• 상자 밀기 작업에서 하이브리드 모델은 전이 영역 근처에서 뛰어난 예측 정확도를 보이며, EKF는 모드 연속성에 대한 잘못된 가정으로 실패한다.
• 이 방법은 전이 근처에서 다중 모드 궤적 분포를 성공적으로 모델링하여 단순한 모델이 놓치는 하이브리드 동역학의 확률적 성격을 포착한다.
• 가드 영역에서의 합성 오버샘플링은 전이 탐지 성능 향상에 기여하며, 모드 할당 및 동역학 추정의 수렴성과 강건성 향상에 기여한다.
• 모드별로 동역학을 갖춘 입자 필터는 전이가 드물고 복잡한 상황에서도 상태와 모드에 대한 정확한 사후 추적을 가능하게 한다.