[論文レビュー] Learning Koopman Invariant Subspaces for Dynamic Mode Decomposition

Naoya Takeishi, Yoshinobu Kawahara+1 more|arXiv (Cornell University)|Oct 12, 2017

Model Reduction and Neural Networks参考文献 14被引用数 78

ひとこと要約

RSS 損失とニューラルネットワークを用いて、Koopman 不変部分空間を学習する、データ駆動型の完全な手法。事前定義された観測量なしに Koopman のスペクトル分析を可能にする。

ABSTRACT

Spectral decomposition of the Koopman operator is attracting attention as a tool for the analysis of nonlinear dynamical systems. Dynamic mode decomposition is a popular numerical algorithm for Koopman spectral analysis; however, we often need to prepare nonlinear observables manually according to the underlying dynamics, which is not always possible since we may not have any a priori knowledge about them. In this paper, we propose a fully data-driven method for Koopman spectral analysis based on the principle of learning Koopman invariant subspaces from observed data. To this end, we propose minimization of the residual sum of squares of linear least-squares regression to estimate a set of functions that transforms data into a form in which the linear regression fits well. We introduce an implementation with neural networks and evaluate performance empirically using nonlinear dynamical systems and applications.

研究の動機と目的

• Koopman 演算子と DMD を用いた非線形ダイナミクスの解析を動機づける。
• 観測データから Koopman 不変部分空間を学習する、完全にデータ駆動型のアプローチを開発する。
• 回帰ベースの損失を最適化することにより、手動での観測量の選択を回避する。
• 状態再構成と測定の逆投影を取り入れて、物理的妥当性を確保する。
• 非線形システムと応用例における経験的性能を示す。

提案手法

• Koopman 不変部分空間を張る観測 g を定義し、Y1 と Y0 の間の線形回帰の残差平方和を最小化する。
• 遅延埋め込みを用いた経験的リスクの視点を用い、学習された線形遅延埋め込み器ϕによって部分観測を扱う。
• g から y を近似できることを保証する再構成項を導入し、再構成器 h を介して。
• g および h をモデル化するためにニューラルネットワーク（MLP）を用いてフレームワークを実装し、勾配降下法で最適化する。
• 学習された観測量に対して標準的な DMD を実行する手順を提供し、A = Y1 Y0† を計算して固有対を抽出する。
• 安定性のために非分解可能な RSS 損失とバッチ正規化を用いた学習に関するガイダンスを提供する。

実験結果

リサーチクエスチョン

• RQ1 データ自体から、手作りの特徴量を用いずに Koopman 不変部分空間を張る観測量の集合を直接学習できるか？
• RQ2 RSS 損失を最小化することで、非線形ダイナミクスを正確に捉える有限次元 Koopman 演算子が得られるか？
• RQ3 遅延埋め込みを結合的に学習して、部分測定から潜在状態を再構成できるか？
• RQ4 測定再構成損失を取り入れることで、g の自明または退化的な解を防げるか？
• RQ5 非線形システムおよび実践的応用において、LKIS-DMD は既存の DMD 変種とどう比較されるか？

主な発見

• LKIS-DMD は対象の不変部分空間に対応する Koopman 固有値を識別し、観測ノイズに対して頑健である。
• LKIS-DMD は固定点、リミットサイクル、複数の谷を含む系に対する理論的期待と一致する固有値を生み出す。
• 学習された固有函数は、ほぼゼロまたは小さな振幅の固有値を介して吸引拠点と不安定な現象を明らかにできる。
• この手法は、カオス時系列の予測精度において、LSTM および Hankel DMD のベースラインと比べて競争力があるか、あるいはそれを上回る。
• 再構成項は、学習された観測量から元の測定値への物理的に意味のあるバックプロジェクションを可能にする。