[논문 리뷰] Sparse identification of nonlinear dynamics for model predictive control in the low-data limit

Eurika Kaiser, J. Nathan Kutz외 1명|arXiv (Cornell University)|2017. 11. 15.

Model Reduction and Neural Networks인용 수 14

한 줄 요약

이 논문은 비선형 역학의 희소 식별(SINDY)을 사용하여 조작이 가능한 해석 가능한 저자료 모델을 구축하는 데이터 기반 모델 예측 제어(MPC) 프레임워크인 SINDY-MPC를 제안한다. 신경망과 선형 모델에 비해 뛰어난 성능, 노이즈에 대한 강건성, 계산 효율성을 달성하여 저자료, 고노이즈 또는 급격한 변화 이후의 상황에서도 실시간 제어를 가능하게 한다.

ABSTRACT

The data-driven discovery of dynamics via machine learning is currently pushing the frontiers of modeling and control efforts, and it provides a tremendous opportunity to extend the reach of model predictive control. However, many leading methods in machine learning, such as neural networks, require large volumes of training data, may not be interpretable, do not easily include known constraints and symmetries, and often do not generalize beyond the attractor where models are trained. These factors limit the use of these techniques for the online identification of a model in the low-data limit, for example following an abrupt change to the system dynamics. In this work, we extend the recent sparse identification of nonlinear dynamics (SINDY) modeling procedure to include the effects of actuation and demonstrate the ability of these models to enhance the performance of model predictive control (MPC), based on limited, noisy data. SINDY models are parsimonious, identifying the fewest terms in the model needed to explain the data, making them interpretable, generalizable, and reducing the burden of training data. We show that the resulting SINDY-MPC framework has higher performance, requires significantly less data, and is more computationally efficient and robust to noise than neural network models, making it viable for online training and execution in response to rapid changes to the system. SINDY-MPC also shows improved performance over linear data-driven models, although linear models may provide a stopgap until enough data is available for SINDY. SINDY-MPC is demonstrated on a variety of dynamical systems with different challenges, including the chaotic Lorenz system, a simple model for flight control of an F8 aircraft, and an HIV model incorporating drug treatment.

연구 동기 및 목표

• 특히 급격한 시스템 변화 이후에도 실시간 모델 식별을 위한 모델 예측 제어(MPC)의 도전 과제를 해결한다.
• 해석 불가능성, 일반화 능력 부족, 제약 조건 통합의 어려움을 겪는 블랙박스이자 데이터 기반의 신경망과 같은 모델의 한계를 극복한다.
• 계산 효율성이 뛰어나고 노이즈에 강건하며 최소한의 훈련 데이터로도 빠른 적응이 가능한 데이터 기반 MPC 프레임워크를 개발한다.
• 비선형 역학의 희소 식별(SINDY)이 조작 항을 포함하도록 확장되어 MPC 성능을 효과적으로 향상시킬 수 있음을 보여준다.
• 데이터가 부족하거나 비정상적인 조건에서 수집되는 상황에서 선형 모델과 신경망의 실용적 대안을 제공한다.

제안 방법

• 제어 가능한 동적 시스템을 모델링할 수 있도록 SINDY 프레임워크를 조작 항을 포함하도록 확장한다.
• 관측된 데이터를 설명하는 데 필요한 최소한의 비선형 항을 희소 회귀를 통해 식별하여 모델의 단순성과 해석 가능성을 확보한다.
• 결과로 도출된 SINDY 모델을 실시간 피드백 제어를 위한 모델 예측 제어(MPC) 프레임워크에 통합한다.
• 제한된 노이즈가 있는 시계열 데이터로부터 희소 모델을 식별하기 위해 순차적 임계처리와 최소 제곱 회귀를 적용한다.
• 물리적 제약 조건(예: 대칭성, 보존 법칙)을 제약 조건이 있는 최소 제곱 회귀를 통해 SINDY 회귀에 통합하여 모델 복잡도를 감소시키고 안정성을 향상시킨다.
• 전체 상태 측정이 불가능한 경우 지연 좌표와 쿠퍼만 기반 임bedding을 사용하여 부분 관측에서의 모델 식별을 가능하게 한다.

실험 결과

연구 질문

• RQ1 SINDY 기반 모델은 최소한의 데이터로도 조작을 포함하여 제어 가능한 동적 시스템에 대한 MPC 프레임워크 내에서 효과적으로 확장될 수 있는가?
• RQ2 SINDY-MPC는 정확도, 노이즈에 대한 강건성, 데이터 효율성 측면에서 신경망 기반 MPC와 선형 데이터 기반 모델에 비해 어떻게 비교되는가?
• RQ3 SINDY-MPC는 불안정하거나 카오스적인 시스템과 같이 시스템 역학이 급격히 변화한 후에도 얼마나 신속하게 모델 복구를 가능하게 하는가?
• RQ4 물리적 제약 조건과 대칭성은 SINDY 회귀에 효율적으로 통합될 수 있는가? 이를 통해 데이터 요구량을 줄이고 모델 일반화 능력을 향상시킬 수 있는가?
• RQ5 스마트 데이터(대표적이고 정보가 풍부한 측정치)는 큰 데이터와 대비하여 비선형 시스템의 실시간 해석 가능한 제어를 어떻게 가능하게 하는가?

주요 결과

• SINDY-MPC는 신경망 기반 MPC와 선형 데이터 기반 모델에 비해 더 높은 제어 성능을 달성하며, 특히 저자료 환경에서 두각을 나타낸다.
• 신경망에 비해 훨씬 적은 훈련 데이터를 요구하며 노이즈에 강건하여 희소하거나 완벽하지 않은 측정치에서도 신뢰할 수 있는 성능을 유지한다.
• 신경망 기반 MPC에 비해 계산 효율성이 뛰어나 실시간 훈련과 실행에 적합하다.
• 제한된 데이터로부터의 빠른 식별 덕분에 시스템 역학의 급격한 변화(예: 역학의 이동 또는 불안정성) 이후에도 빠른 모델 복구가 가능하다.
• SINDY 회귀에 물리적 제약 조건을 통합함으로써 자유 매개변수의 수를 줄이고 모델 안정성을 향상시켜 데이터 요구량을 추가로 감소시킨다.
• SINDY-MPC 프레임워크는 카오스적인 로렌츠 시스템, F8 전투기 비행 제어 모델, HIV 치료 역학 모델을 포함한 다양한 시스템에서 성공적으로 구현되어 광범위한 적용 가능성을 입증했다.