[論文レビュー] Koopman Kernel Regression

Petar Bevanda, Max Beier+4 more|arXiv (Cornell University)|May 25, 2023

Model Reduction and Neural Networks被引用数 5

ひとこと要約

本稿では、普遍的な再生核ヒルベルト空間（RKHS）を活用して、データから線形時不変（LTI）力学系を学習する、新しいフレームワークであるKoopmanカーネル回帰（KKR）を提案する。Koopman不変多様体を唯一カバーするカーネルを構築することにより、従来の手法よりも弱い仮定のもとで統計的学習の保証（収束性や一般化誤差バウンド）を達成でき、流体力学的渦列のような複雑で高次元の系において優れた予測性能を示す。

ABSTRACT

Many machine learning approaches for decision making, such as reinforcement learning, rely on simulators or predictive models to forecast the time-evolution of quantities of interest, e.g., the state of an agent or the reward of a policy. Forecasts of such complex phenomena are commonly described by highly nonlinear dynamical systems, making their use in optimization-based decision-making challenging. Koopman operator theory offers a beneficial paradigm for addressing this problem by characterizing forecasts via linear time-invariant (LTI) ODEs, turning multi-step forecasts into sparse matrix multiplication. Though there exists a variety of learning approaches, they usually lack crucial learning-theoretic guarantees, making the behavior of the obtained models with increasing data and dimensionality unclear. We address the aforementioned by deriving a universal Koopman-invariant reproducing kernel Hilbert space (RKHS) that solely spans transformations into LTI dynamical systems. The resulting Koopman Kernel Regression (KKR) framework enables the use of statistical learning tools from function approximation for novel convergence results and generalization error bounds under weaker assumptions than existing work. Our experiments demonstrate superior forecasting performance compared to Koopman operator and sequential data predictors in RKHS.

研究の動機と目的

• 既存のKoopman作用素学習手法における学習理論的保証の欠如、特にデータ量と次元数の増加に伴う課題を解決すること。
• Koopman不変多様体のみを張る普遍的カーネルを構築し、多様体上での動的挙動を保証すること。
• 関数近似をRKHSで行う統計的学習フレームワークを形式化し、収束性および一般化誤差バウンドを可能にすること。
• Kármán渦列のような高次元で現実世界の力学系において、本手法の有効性を示すこと。
• フルシミュレーションよりもはるかに高速で、予測精度を維持する代替のスレーブモデリング手法を提供すること。

提案手法

• Koopman力学に不変な多様体を唯一カバーする普遍的カーネルを導出し、多様体上でのLTI挙動を保証すること。
• Koopman作用素の固有関数の性質とスペクトル分解を活用して、Koopman不変RKHSを構築すること。
• 導出されたRKHSにおける関数回帰問題としてKoopmanカーネル回帰（KKR）を定式化し、標準的な統計的学習ツールの利用を可能にすること。
• RBFベースカーネルと学習可能な長さスケールを備えた演算子値カーネルを用い、データ駆動的にKoopman作用素をモデル化すること。
• 不正な設定下でのカーネル収束を検証するためにモンテカルロ統合を適用し、ハイパーパramータチューニングには交差検証を用いること。
• トレーニングデータとして軌道データを用い、上昇空間における線形予測子としての出力を得るため、正則化された経験的リスクを最小化することでモデルを訓練すること。

実験結果

リサーチクエスチョン

• RQ1 線形時不変（LTI）力学系において、そのRKHSがKoopman不変多様体に写像する関数のみを含むような普遍的カーネルを構築できるか？
• RQ2 従来のKoopman学習手法よりも弱い仮定のもとで、得られたKKRモデルが証明可能な収束性および一般化誤差バウンドを達成できるか？
• RQ3 高次元で非線形な力学系において、KKRは標準的なKoopman作用素学習およびRKHS上の逐次予測子を上回る性能を示せるか？
• RQ4 特に複雑な流体力学的状況において、限られたトレーニングデータ（例：N=45）でもKKRは強力な一般化性能を維持できるか？
• RQ5 Lattice-Boltzmann法に基づく計算コストの高いシミュレーションの代替として、KKRは効率的なスレーブモデルとして機能できるか？

主な発見

• KKRは、ベンチマーク力学系において、Koopman作用素学習およびRKHS上の逐次予測子と比較して優れた予測性能を達成した。
• 従来の研究よりも弱い仮定のもとで、新たな収束性および一般化誤差バウンドを実現し、理論的保証を提供した。
• KKRは、Kármán渦列実験でN=45のトレーニングサンプルしか使用しなくても、トレーニング軌道を高い精度で再構築し、テストデータに対しても良好な一般化性能を示した。
• KKRを用いたデータセット再現には、1回あたり約0.05秒（GPU 1枚使用）で完了したのに対し、フルシミュレーションは約1秒/回を要した。これにより20倍の高速化が達成された。
• KKRは、純虚数固有値を用いて周期的挙動、および減衰する固有値を用いて一時的挙動を的確に捉えた。
• モンテカルロ統合を用いたカーネル収束の検証では、複数回の実行および時間区間において安定した挙動を示した。