[论文解读] Koopman Operator, Geometry, and Learning

Igor Mezić|arXiv (Cornell University)|Oct 12, 2020

Model Reduction and Neural Networks参考文献 38被引用 9

一句话总结

本文提出了一种基于Koopman算子的框架，通过利用谱性质和几何表示来学习动力系统，实现了有限维的线性和非线性系统描述。研究表明，当可观测量能够分离点时，Koopman特征函数可产生无记忆的、闭式形式的马尔可夫表示，从而挑战了Mori-Zwanzig形式化中对噪声的传统建模方式。

ABSTRACT

We provide a framework for learning of dynamical systems rooted in the concept of representations and Koopman operators. The interplay between the two leads to the full description of systems that can be represented linearly in a finite dimension, based on the properties of the Koopman operator spectrum. The geometry of state space is connected to the notion of representation, both in the linear case - where it is related to joint level sets of eigenfunctions - and in the nonlinear representation case. As shown here, even nonlinear finite-dimensional representations can be learned using the Koopman operator framework, leading to a new class of representation eigenproblems. The connection to learning using neural networks is given. An extension of the Koopman operator theory to "static" maps between different spaces is provided. The effect of the Koopman operator spectrum on Mori-Zwanzig type representations is discussed.

研究动机与目标

• 开发一个统一的框架，利用Koopman算子和几何表示来学习动力系统。
• 解决传统几何动力系统理论的局限性，特别是其对局部分析和低维性的依赖。
• 通过Koopman谱理论显式嵌入时间，实现无监督和自监督学习。
• 将Koopman算子理论与基于神经网络的学习方法相连接，并将其扩展至不同空间之间的静态映射。
• 基于Koopman特征函数表示，重新评估Mori-Zwanzig形式化中记忆和噪声的作用。

提出的方法

• 利用Koopman算子将非线性动力学提升到函数空间中的线性演化，从而实现谱分析。
• 应用广义拉普拉斯分析，从数据中提取Koopman特征函数及其谱性质。
• 定义一个非线性表示 (f, F)，其中 f 将状态空间映射到有限维空间，F 以线性方式演化 f，且包含一个非线性校正项 G(f)。
• 证明：若Koopman算子具有离散谱且可观测量能分离点，则系统可实现无记忆或无噪声项的闭式马尔可夫表示。
• 通过将静态映射视为时间无关的动力系统，将Koopman框架扩展至不同空间之间的“静态”映射。
• 通过Koopman谱分解的视角分析Mori-Zwanzig形式化，表明噪声和记忆源于不可分可观测量和Koopman算子的连续谱。

实验结果

研究问题

• RQ1 Koopman算子理论如何用于构建非线性动力系统的有限维表示？
• RQ2 在何种条件下，基于Koopman的表示是马尔可夫的且不包含记忆或噪声项？
• RQ3 状态空间的几何结构与Koopman特征函数的联合水平集之间有何关系？
• RQ4 Koopman框架如何实现从有限数据中进行无监督和自监督学习？
• RQ5 为何在Mori-Zwanzig形式化中将余项（QU）建模为噪声是不合理的？Koopman方法如何解决此问题？

主要发现

• 当可观测量能分离状态空间上的点且Koopman算子具有离散谱时，系统可实现闭式、无记忆的表示 f' = Af + G(f)。
• 无理圆旋转的实例表明，即使可观测量不是特征函数，只要能分离点，仍可产生马尔可夫动力学，从而否定了QU必须建模为噪声的假设。
• Koopman算子框架揭示了Mori-Zwanzig形式化中噪声和记忆的两个根本原因：表示不忠实和Koopman算子的连续谱。
• Koopman特征函数可用于构建全局有效的几何对象，如不变集和稳定/不稳定流形，即使在高维系统中亦可实现。
• 该框架通过广义拉普拉斯分析支持流数据适应，实现在线无监督学习，并具备生成建模潜力。
• 该方法不仅适用于时间演化系统，还可扩展至空间之间的“静态”映射，从而拓宽了其在非动力学问题中的适用性。