[논문 리뷰] Learning Koopman Invariant Subspaces for Dynamic Mode Decomposition

Naoya Takeishi, Yoshinobu Kawahara외 1명|arXiv (Cornell University)|2017. 10. 12.

Model Reduction and Neural Networks참고 문헌 14인용 수 78

한 줄 요약

데이터 기반 RSS 손실과 신경망을 사용하여 동적 모드 분해(DMD)를 위한 Koopman 불변 부분공간을 학습하는 완전 데이터 기반 방법으로, 사전에 정의된 관찰변수를 필요로 하지 않는 Koopman 스펙트럼 분석을 가능하게 한다.

ABSTRACT

Spectral decomposition of the Koopman operator is attracting attention as a tool for the analysis of nonlinear dynamical systems. Dynamic mode decomposition is a popular numerical algorithm for Koopman spectral analysis; however, we often need to prepare nonlinear observables manually according to the underlying dynamics, which is not always possible since we may not have any a priori knowledge about them. In this paper, we propose a fully data-driven method for Koopman spectral analysis based on the principle of learning Koopman invariant subspaces from observed data. To this end, we propose minimization of the residual sum of squares of linear least-squares regression to estimate a set of functions that transforms data into a form in which the linear regression fits well. We introduce an implementation with neural networks and evaluate performance empirically using nonlinear dynamical systems and applications.

연구 동기 및 목표

• Koopman 연산자와 DMD를 통해 비선형 동역학 분석의 동기를 제시한다.
• 관찰 데이터에서 Koopman 불변 부분공간을 학습하는 완전 데이터 기반 접근법을 개발한다.
• 회귀 기반 손실의 최적화를 통해 관찰변수의 수동 선택을 피한다.
• 물리적 관련성을 보장하기 위해 상태 재구성 및 측정의 역투영을 포함한다.
• 비선형 시스템 및 응용에서 경험적 성능을 입증한다.

제안 방법

• Koopman 불변 부분공간을 포괄하는 관찰 g를 정의하고 Y1과 Y0 간의 선형 회귀의 잔차 제곱합(RSS)을 최소화한다.
• 학습된 선형 지연 임베더 ϕ를 통해 부분 관찰을 처리하는 지연 임베딩의 경험적 위험 관점 사용한다.
• y가 g에서 근사될 수 있도록 재구성기 h를 통해 재구성 항을 도입한다.
• g 및 h를 모델링하기 위한 다층 퍼ceptron(MLP)으로 프레임워크를 구현하고 기울기 하강법으로 최적화한다.
• 학습된 관찰 변수에 대해 A = Y1 Y0†를 계산하고 고유쌍을 추출하는 표준 DMD를 수행하는 절차를 제공한다.
• 비분해 가능 RSS 손실 및 안정성을 위한 배치 정규화에 대한 학습 지침을 제공한다.

실험 결과

연구 질문

• RQ1 데이터에서 손으로 설계된 특징 없이 Koopman 불변 부분공간을 포괄하는 관찰 변수 세트를 직접 학습할 수 있는가?
• RQ2 RSS 손실을 최소화하는 것이 비선형 역학을 정확하게 포착하는 유한 차원의 Koopman 연산자를 생성하는가?
• RQ3 지연 임베딩을 부분 측정에서 잠재 상태를 재구성하기 위해 함께 학습할 수 있는가?
• RQ4 측정 재구성 손실을 도입하면 g에 대한 사소하거나 특이한 해가 방지되는가?
• RQ5 LKIS-DMD는 비선형 시스템 및 실제 응용에서 기존 DMD 변형들과 어떻게 비교되는가?

주요 결과

• LKIS-DMD는 대상 불변 부분에 대응하는 Koopman 고유값을 식별하고 관찰 잡음에 강인함을 유지한다.
• LKIS-DMD는 고정점, 극한순환, 다중 비계 시스템에 대한 이론적 기대와 일치하는 고유값을 산출한다.
• 학습된 고유함수는 거의 0에 가까운 고유값이나 작은 크기의 고유값을 통해 흡인구역과 불안정 현상을 드러낼 수 있다.
• 이 방법은 혼돈 시계열에 대해 LSTM 및 Hankel DMD 기반선과 비교하여 예측 정확도가 경쟁력 있거나 우수하다.
• 재구성 항은 학습된 관찰 변수에서 원래 측정값으로의 물리적으로 의미 있는 역투영을 가능하게 한다.