[논문 리뷰] Model predictive control design for dynamical systems learned by Long Short-Term Memory Networks

Enrico Terzi, Bonassi, Fabio외 2명|arXiv (Cornell University)|2019. 10. 09.

Advanced Control Systems Optimization참고 문헌 47인용 수 7

한 줄 요약

이 논문은 시스템 모델로 장기적 단기 기억(LSTM) 네트워크를 사용하는 학습 기반 모델 예측 제어(MPC) 프레임워크를 제안하며, LSTM에 대해 입력-상태 안정성(ISS) 및 증분 ISS(δ-ISS) 조건을 수립한다. 수렴 보장이 있는 상태 관측기를 통합하고, 종단 조건 없이 종단 비용만을 사용하는 안정화 MPC를 설계하여 점근적 안정성을 증명하고, pH 반응기 시뮬레이터에서 효과성을 입증한다.

ABSTRACT

This paper analyzes the stability-related properties of Long Short-Term Memory (LSTM) networks and investigates their use as the model of the plant in the design of Model Predictive Controllers (MPC). First, sufficient conditions guaranteeing the Input-to-State stability (ISS) and Incremental Input-to-State stability (dISS) of LSTM are derived. These properties are then exploited to design an observer with guaranteed convergence of the state estimate to the true one. Such observer is then embedded in a MPC scheme solving the tracking problem. The resulting closed-loop scheme is proved to be asymptotically stable. The training algorithm and control scheme are tested numerically on the simulator of a pH reactor, and the reported results confirm the effectiveness of the proposed approach.

연구 동기 및 목표

• 제어 적용 분야에서 장기적 단기 기억(LSTM) 네트워크에 대해 이론적 안정성 조건—입력-상태 안정성(ISS) 및 증분 ISS(δ-ISS)—을 수립하는 것.
• δ-ISS 성질을 활용하여 상태 추정치가 진정한 상태로 점근적으로 수렴하도록 보장하는 LSTM 기반 모델을 위한 상태 관측기를 설계하는 것.
• 입력 제약 조건 하에서 추적 문제를 해결하기 위해 훈련된 LSTM 모델과 관측기를 사용하는 모델 예측 제어(MPC) 계획을 개발하는 것.
• 종단 조건 없이 종단 비용과 적절한 가중 함수 조정만으로도 폐루프 점근적 안정성을 확보하는 것.
• 모델-공장 불일치를 확률적 시나리오 접근법을 통해 추정하여 모델 불확실성 존재 시에도 강건성을 확보하는 것.

제안 방법

• LSTM 가중치에 대한 충분한 조건을 도출하여, 네트워크 파라미터에 명시적으로 의존하고 훈련 중에 이행 가능한 ISS 및 δ-ISS 보장을 보장한다.
• δ-ISS를 기반으로 한 상태 관측기를 설계하여, 유도된 안정성 조건 하에서 추정 오차가 점근적으로 0으로 수렴하도록 보장한다.
• LSTM 모델과 관측기를 사용하여 출력 추적 문제를 해결하는 MPC 컨트롤러를 구축한다.
• MPC 비용 함수에 종단 비용을 도입하고 상태 및 제어 가중 함수를 조정하여 평형점의 점근적 안정성을 보장한다.
• 모델-공장 불일치에 대한 상한을 추정하기 위해 시나리오 접근법을 적용하여 불확실성 존재 시 강건성을 확보한다.
• 예측된 시스템 궤적과 실제 궤적 간의 차이를 제한하기 위해 재귀적 오차 전파 분석을 활용하여 MPC 비용 함수의 수렴을 보장한다.

실험 결과

연구 질문

• RQ1 LSTM 네트워크 파라미터에 대해 어떤 조건이 네트워크의 입력-상태 안정성(ISS)을 보장하는가?
• RQ2 LSTM에 대해 증분 입력-상태 안정성(δ-ISS)을 보장할 수 있으며, 훈련 중에 어떻게 이를 이행할 수 있는가?
• RQ3 LSTM 기반 모델을 위한 상태 관측기를 설계할 수 있으며, 그 경우 추정 오차가 점근적으로 0으로 수렴하는가?
• RQ4 관측기와 종단 비용을 갖춘 MPC 계획이 종단 조건 없이도 점근적 안정성을 달성하는가?
• RQ5 모델-공장 불일치를 어떻게 확률적으로 상한을 제공하여 강건한 MPC 설계를 지원할 수 있는가?

주요 결과

• 논문은 LSTM 가중치에 대한 명시적 조건을 도출하여, 훈련 중에 이행 가능한 입력-상태 안정성(ISS) 및 증분 ISS(δ-ISS) 보장을 보장한다.
• δ-ISS를 기반으로 한 상태 관측기를 설계하여 추정 오차가 점근적으로 0으로 수렴하도록 보장하며, 수렴 속도는 관측기 조정에 따라 달라진다.
• 종단 비용을 갖춘 MPC 컨트롤러는 종단 조건 없이도 평형점의 점근적 안정성을 달성하여 조정을 단순화한다.
• 제안된 MPC 및 관측기 설계 하에서 폐루프 시스템이 점근적으로 안정함을 증명하였으며, 비용 함수가 시간이 지남에 따라 감소함을 보였다.
• 시나리오 접근법은 모델-공장 불일치에 대한 확률적 상한을 제공하여 제어 설계의 강건성을 가능하게 한다.
• pH 반응기 시뮬레이터에서의 수치 결과는 훈련된 LSTM의 모델링 정확도와 전체 제어 계획의 참조 신호 추적 효과성을 확인한다.