[论文解读] Koopman Kernel Regression

Petar Bevanda, Max Beier+4 more|arXiv (Cornell University)|May 25, 2023

Model Reduction and Neural Networks被引用 5

一句话总结

本文提出Koopman核回归（Kooperman Kernel Regression, KKR），一种新颖的框架，利用通用再生核希尔伯特空间（RKHS）从数据中学习线性时不变（LTI）动力系统。通过构建一个其RKHS仅覆盖Koopman不变流形的核函数，KKR在弱于先前方法的假设下实现了统计学习保证，包括收敛性和泛化误差界，从而在流体动力学涡街等复杂高维系统中实现了更优的预测性能。

ABSTRACT

Many machine learning approaches for decision making, such as reinforcement learning, rely on simulators or predictive models to forecast the time-evolution of quantities of interest, e.g., the state of an agent or the reward of a policy. Forecasts of such complex phenomena are commonly described by highly nonlinear dynamical systems, making their use in optimization-based decision-making challenging. Koopman operator theory offers a beneficial paradigm for addressing this problem by characterizing forecasts via linear time-invariant (LTI) ODEs, turning multi-step forecasts into sparse matrix multiplication. Though there exists a variety of learning approaches, they usually lack crucial learning-theoretic guarantees, making the behavior of the obtained models with increasing data and dimensionality unclear. We address the aforementioned by deriving a universal Koopman-invariant reproducing kernel Hilbert space (RKHS) that solely spans transformations into LTI dynamical systems. The resulting Koopman Kernel Regression (KKR) framework enables the use of statistical learning tools from function approximation for novel convergence results and generalization error bounds under weaker assumptions than existing work. Our experiments demonstrate superior forecasting performance compared to Koopman operator and sequential data predictors in RKHS.

研究动机与目标

• 为解决现有Koopman算子学习方法在数据量和维度增加时缺乏学习理论保证的问题。
• 开发一种通用核函数，其对应的RKHS仅覆盖Koopman不变流形，确保流形上的动力学行为。
• 形式化一种基于RKHS中函数逼近的LTI预测器的统计学习框架，实现收敛性和泛化误差界。
• 在高维真实动力系统（如Kármán涡街）上展示该方法的有效性。
• 提供一种显著快于完整模拟的代理建模替代方案，同时保持高预测精度。

提出的方法

• 推导一种通用核函数，其再生核希尔伯特空间（RKHS）仅覆盖在Koopman动力学下不变的流形，确保流形上呈现LTI行为。
• 通过Koopman算子的谱分解和特征函数性质，构建Koopman不变的RKHS。
• 将Koopman核回归（KKR）表述为在推导出的RKHS中的函数回归问题，从而可使用标准统计学习工具。
• 采用带有RBF基核和可学习长度尺度的算子值核，以数据驱动方式建模Koopman算子。
• 使用蒙特卡洛积分验证在模型误设情况下的核收敛性，并使用交叉验证进行超参数调优。
• 通过最小化RKHS中的正则化经验风险，利用轨迹数据训练模型，输出为提升空间中的线性预测器。

实验结果

研究问题

• RQ1 能否构造一种通用核函数，使其RKHS仅包含映射到Koopman不变流形的函数，以实现线性时不变（LTI）动力学？
• RQ2 在弱于现有Koopman学习方法的假设下，所得的KKR模型是否能实现可证明的收敛性和泛化误差界？
• RQ3 KKR在高维非线性动力系统中是否能超越标准Koopman算子学习和RKHS中的序列预测器？
• RQ4 在训练数据有限的情况下，KKR是否仍能保持强泛化性能，特别是在复杂的流体动力学场景中？
• RQ5 KKR能否作为计算昂贵模拟（如基于格子-Boltzmann方法的模拟）的高效代理模型？

主要发现

• 在基准动力系统上，KKR的预测性能优于Koopman算子和RKHS中的序列预测器。
• 该方法在弱于先前工作的假设下实现了新颖的收敛性和泛化误差界，提供了理论保证。
• 即使在Kármán涡街实验中仅使用N=45组训练样本，KKR也能以高精度重建训练轨迹，并在测试数据上表现出良好的泛化能力。
• 在单张GPU上，使用KKR重现数据的耗时约为每次调用0.05秒，而完整模拟每次约需1秒，实现了20倍的加速。
• 模型通过纯虚数和衰减的特征值，成功捕捉了Kármán涡街的周期性和瞬态动力学。
• 通过蒙特卡洛积分验证了核的收敛性，结果在多次运行和不同时间跨度下均表现出稳定行为。