[论文解读] Error analysis of kernel EDMD for prediction and control in the Koopman framework

Friedrich Philipp, Manuel Schaller+3 more|arXiv (Cornell University)|Dec 16, 2023

Model Reduction and Neural Networks被引用 4

一句话总结

本文针对在紧致状态空间上从用户定义的分布进行独立同分布采样时，基于Koopman框架的数据驱动预测与控制，对核扩展动态模式分解（kEDMD）进行了严格的误差分析。该分析在不假设遍历性或不变性的情况下，建立了预测误差的概率界，并通过引入广义Koopman生成元定义，将分析扩展至控制仿射系统。

ABSTRACT

Extended Dynamic Mode Decomposition (EDMD) is a popular data-driven method to approximate the Koopman operator for deterministic and stochastic (control) systems. This operator is linear and encompasses full information on the (expected stochastic) dynamics. In this paper, we analyze a kernel-based EDMD algorithm, known as kEDMD, where the dictionary consists of the canonical kernel features at the data points. The latter are acquired by i.i.d. samples from a user-defined and application-driven distribution on a compact set. We prove bounds on the prediction error of the kEDMD estimator when sampling from this (not necessarily ergodic) distribution. The error analysis is further extended to control-affine systems, where the considered invariance of the Reproducing Kernel Hilbert Space is significantly less restrictive in comparison to invariance assumptions on an a-priori chosen dictionary.

研究动机与目标

• 为从紧致状态空间上用户定义的、可能非遍历的分布中采样时的基于核的EDMD（kEDMD）提供严格的误差分析。
• 消除先前kEDMD误差分析中常见的对字典或测度的限制性不变性假设。
• 通过引入不依赖函数空间不变性的广义Koopman生成元定义，将误差界扩展至控制仿射系统。
• 利用Hoeffding不等式，为（交叉-）协方差算子在希尔伯特-施密特范数下的误差建立概率界。
• 通过在杜芬振子上进行长时间预测与控制性能的数值实验，验证理论结果。

提出的方法

• 该方法采用从紧致集上用户定义的分布中进行独立同分布采样，以收集kEDMD的数据，避免了对遍历性的假设。
• 字典由采样数据点处的核特征映射构建，将数据嵌入再生核希尔伯特空间（RKHS）。
• 利用独立随机变量的Hoeffding不等式，推导出希尔伯特-施密特范数下（交叉-）协方差算子的概率误差界。
• 将Koopman生成元推广以处理非不变子空间，从而实现对Koopman算子不将函数空间映射到自身的系统进行分析。
• 对于控制仿射系统，该方法使用一种双线性Koopman模型，该模型在不同控制输入下的Koopman算子之间进行插值。
• 通过最小二乘法拟合核特征与原始状态变量，实现从提升空间对状态的重构。

Figure 1. Ornstein-Uhlenbeck process: Error bound from Prop. 4.1 (circles) versus $(1-\delta)$ -percentile of the actual estimation error estimated from fifty independent trials (squares), for three different bandwidths $\sigma$ indicated by different colors and linestyles.

实验结果

研究问题

• RQ1 当数据通过从非遍历、用户定义的分布中进行独立同分布采样获得时，kEDMD的预测误差界是什么？
• RQ2 如何将kEDMD的误差分析扩展至Koopman算子因缺乏不变性而无法保持函数空间的系统？
• RQ3 正则化参数与核带宽在实践中对kEDMD模型预测精度有何影响？
• RQ4 双线性Koopman模型在如杜芬振子等非线性系统中，对长时间预测与控制的性能表现如何？
• RQ5 理论误差界是否可在基准非线性控制系统上通过数值方法验证？

主要发现

• 本文在独立同分布采样下，为kEDMD估计器在希尔伯特-施密特范数下推导出概率误差界，即使状态空间子集在动力学下不保持不变，该界依然有效。
• 误差界依赖于样本大小、核的光滑性以及核的谱性质，且显式依赖于正则化参数。
• 广义Koopman生成元定义使得在非不变设定下仍可进行误差分析，显著放宽了对字典或测度的先前假设。
• 在杜芬振子上的数值结果表明，预测误差随正则化强度增加而减小，直至达到阈值，最优性能出现在 γ = 10⁻⁵ 时。
• 双线性Koopman模型在长达12.5个时间单位的预测中表现出色，平均相对误差低，且在时变控制输入下仍保持稳定动力学。
• 通过最小二乘法拟合核特征，实现了对状态的精确重构，从而可从提升空间可靠地预测原始系统状态。

Figure 2. Left: initial training data $x_{k}$ (blue) and corresponding time shifted data $y_{k}$ (red) for fixed input $\bar{u}=0$ . The black square indicates the initial domain $\mathcal{X}=[-1.5,1.5]^{2}$ . Right: Evaluation of the state variable $x_{k}$ on the data $y_{k}^{\bar{u}}$ , approximat