[論文レビュー] Koopman Operator, Geometry, and Learning

Igor Mezić|arXiv (Cornell University)|Oct 12, 2020

Model Reduction and Neural Networks参考文献 38被引用数 9

ひとこと要約

本稿は、スペクトル的性質と幾何的表現を活用することで、力学系の学習にKoopman作用素に基づくフレームワークを導入し、有限次元の線形および非線形システム記述を可能にする。Koopman固有関数が点を分離するとき、記憶なしで閉形式のマルコフ的表現を生み出すことができることを示しており、Mori-Zwanzig形式における従来のノイズモデルに挑戦する。

ABSTRACT

We provide a framework for learning of dynamical systems rooted in the concept of representations and Koopman operators. The interplay between the two leads to the full description of systems that can be represented linearly in a finite dimension, based on the properties of the Koopman operator spectrum. The geometry of state space is connected to the notion of representation, both in the linear case - where it is related to joint level sets of eigenfunctions - and in the nonlinear representation case. As shown here, even nonlinear finite-dimensional representations can be learned using the Koopman operator framework, leading to a new class of representation eigenproblems. The connection to learning using neural networks is given. An extension of the Koopman operator theory to "static" maps between different spaces is provided. The effect of the Koopman operator spectrum on Mori-Zwanzig type representations is discussed.

研究の動機と目的

• Koopman作用素と幾何的表現を用いた力学系学習の統一的フレームワークの構築を目的とする。
• 特に局所的解析や低次元性に依存する伝統的な幾何的力学系理論の限界を克服することを目的とする。
• Koopmanスペクトル理論による時間の埋め込みを通じて、教師なしおよび自己教師あり学習を可能とすることを目的とする。
• Koopman作用素理論とニューラルネットワークベースの学習を結びつけ、空間間の静的写像へと拡張することを目的とする。
• Koopman固有関数に基づく表現を通じて、Mori-Zwanzig形式における記憶とノイズの役割を再評価することを目的とする。

提案手法

• 非線形力学系を関数空間における線形的進化に持ち上げるためにKoopman作用素を用い、スペクトル解析を可能にする。
• 一般化ラプラス解析を適用し、データからKoopman固有関数およびそのスペクトル的性質を抽出する。
• 状態空間から有限次元空間への写像 f と、f が線形に進化するが非線形補正項 G(f) を含む非線形表現 (f, F) を定義する。
• Koopman作用素が離散スペクトルを持ち、観測関数が点を分離する場合、記憶やノイズ項のない閉形式のマルコフ的表現が可能であることを確立する。
• 時間に依存しない力学系として扱うことで、異なる空間間の「静的」写像に対してもKoopmanフレームワークを拡張する。
• Koopmanスペクトル分解の観点からMori-Zwanzig形式を分析し、ノイズと記憶が非分離観測関数および連続スペクトルに起因することを示す。

実験結果

リサーチクエスチョン

• RQ1 Koopman作用素理論を用いて、非線形力学系の有限次元表現をどのように構築できるか？
• RQ2 Koopmanベースの表現がマルコフ的であり、記憶やノイズ項なしに成立するための条件は何か？
• RQ3 状態空間の幾何的性質とKoopman固有関数の共同レベル集合との関係は何か？
• RQ4 Koopmanフレームワークは、限られたデータからどのように教師なしおよび自己教師あり学習を可能にするか？
• RQ5 従来のMori-Zwanzig形式における剰余項（QU）をノイズとしてモデル化することがなぜ問題であるのか？Koopmanアプローチはその問題をどのように解決するか？

主な発見

• 観測関数が状態空間上で点を分離し、Koopman作用素が離散スペクトルを持つ場合、記憶なしの閉形式の表現 f' = Af + G(f) が可能である。
• 無理数回転の例は、固有関数でない観測関数ですら、点を分離する限りマルコフ的力学を生み出せることを示しており、QU をノイズとしてモデル化する仮定を覆す。
• Koopman作用素フレームワークは、ノイズと記憶がMori-Zwanzig形式に現れる2つの根本的要因（非忠実な表現とKoopman作用素の連続スペクトル）に起因することを明らかにする。
• Koopman固有関数を用いることで、高次元系であっても不変集合や安定・不安定多様体といったグローバルに有効な幾何的対象を構築可能である。
• 一般化ラプラス解析を用いたストリーミングデータ適合が可能であり、生成モデルの可能性を有するオンライン教師なし学習を実現する。
• 本アプローチは時間発展系に限らず、空間間の「静的」写像に対しても拡張可能であり、非力学的問題への応用範囲を広げる。