[论文解读] Learning Koopman Representations for Hybrid Systems

Craig Bakker, Arnab Bhattacharya+3 more|arXiv (Cornell University)|Jun 22, 2020

Model Reduction and Neural Networks参考文献 10被引用 5

一句话总结

本文提出了三种用于混合动力系统的Koopman算子表示方法，实现了在提升状态可观测空间中对线性动力学的数据驱动学习。通过使用从离散状态变量到连续变量的满射映射，消除了离散状态变量，从而提高了计算效率，并支持基于深度学习的实现，能够准确捕捉长时间范围内的混合系统轨迹。尽管存在训练挑战，但经过变换的公式在长期稳定性方面表现更优。

ABSTRACT

The Koopman operator lifts nonlinear dynamical systems into a functional space of observables, where the dynamics are linear. In this paper, we provide three different Koopman representations for hybrid systems. The first is specific to switched systems, and the second and third preserve the original hybrid dynamics while eliminating the discrete state variables; the second approach is straightforward, and we provide conditions under which the transformation associated with the third holds. Eliminating discrete state variables provides computational benefits when using data-driven methods to learn the Koopman operator and its observables. Following this, we use deep learning to implement each representation on two test cases, discuss the challenges associated with those implementations, and propose areas of future work.

研究动机与目标

• 开发适用于混合系统的Koopman算子表示方法，保留原始动力学特性的同时消除离散状态变量以获得计算优势。
• 利用深度学习实现混合系统中Koopman算子的数据驱动学习，克服训练与稳定性方面的挑战。
• 在测试案例中，比较不同Koopman公式——切换型、通用混合型与变换型——在准确性、收敛性与可扩展性方面的性能表现。
• 识别学习混合Koopman表示过程中的关键挑战，特别是离散切换过程中的误差传播与训练不稳定性。
• 提出未来改进方向，如设计专用损失函数与多步训练策略，以提升离散状态切换过程中的精度。

提出的方法

• 针对切换系统提出一种特定的切换型Koopman公式，使用由离散状态索引的有限组Koopman矩阵。
• 通过从离散变量到连续变量的满射映射，引入一种变换型Koopman表示，从而在动力学中完全消除离散状态。
• 提出一种通用混合Koopman公式，保留原始混合结构的同时，将离散变量嵌入连续可观测空间。
• 使用深度神经网络从时间序列数据中学习Koopman可观测量并近似Koopman矩阵，通过包含状态信息的可观测量确保状态的唯一可恢复性。
• 采用类似线性回归的形式：$\psi_x(x_{k+1}) = K_x \psi_x(x_k) + K_{xu} \psi_{xu}(x_k, u_k)$，其中$K_x$与$K_{xu}$通过监督学习获得。
• 采用小批量训练与预训练策略以提升收敛性与稳定性，尤其适用于大规模数据集与复杂公式。

实验结果

研究问题

• RQ1 如何将Koopman算子表示方法适配于具有连续与离散动力学混合的系统？
• RQ2 在基于Koopman的混合系统建模中，消除离散状态变量在计算与学习方面有何优势？
• RQ3 在训练稳定性、准确性与可扩展性方面，不同Koopman公式——切换型、通用混合型与变换型——如何比较？
• RQ4 哪些训练策略最有效，可最小化误差传播，特别是离散切换过程中的误差？
• RQ5 定制化损失函数或多步训练是否能显著提升混合Koopman模型在长期轨迹预测中的准确性？

主要发现

• 切换型Koopman公式最易训练且最准确，在测试轨迹上实现了0.01的平均误差。
• 变换型公式训练速度快，但收敛于较高误差（0.008），且长期稳定性更优，可维持40–50个时间步的精度，而乘法轨迹仅能维持20–30个时间步。
• 通用混合公式最难训练，表现出长尾单步误差分布，且对离散切换误差高度敏感。
• 离散切换的不准确是最主要的轨迹发散原因，表明精确建模离散切换对长期性能至关重要。
• 使用松弛化离散变量进行预训练可提升通用混合公式的收敛性，表明其是处理复杂混合系统的一种可行策略。
• 多步训练与优先考虑离散切换的加权损失函数可显著提升精度，尤其在高维离散状态的系统中。