[论文解读] Sparse identification of nonlinear dynamics for model predictive control in the low-data limit

Eurika Kaiser, J. Nathan Kutz+1 more|arXiv (Cornell University)|Nov 15, 2017

Model Reduction and Neural Networks被引用 14

一句话总结

该论文提出SINDY-MPC，一种数据驱动的模型预测控制框架，利用稀疏非线性动力学识别（SINDY）构建可解释的、低数据量的模型并引入执行控制。与神经网络和线性模型相比，该方法在性能、抗噪声能力以及计算效率方面表现更优，能够在低数据、高噪声或突发变化后的情境下实现实时控制。

ABSTRACT

The data-driven discovery of dynamics via machine learning is currently pushing the frontiers of modeling and control efforts, and it provides a tremendous opportunity to extend the reach of model predictive control. However, many leading methods in machine learning, such as neural networks, require large volumes of training data, may not be interpretable, do not easily include known constraints and symmetries, and often do not generalize beyond the attractor where models are trained. These factors limit the use of these techniques for the online identification of a model in the low-data limit, for example following an abrupt change to the system dynamics. In this work, we extend the recent sparse identification of nonlinear dynamics (SINDY) modeling procedure to include the effects of actuation and demonstrate the ability of these models to enhance the performance of model predictive control (MPC), based on limited, noisy data. SINDY models are parsimonious, identifying the fewest terms in the model needed to explain the data, making them interpretable, generalizable, and reducing the burden of training data. We show that the resulting SINDY-MPC framework has higher performance, requires significantly less data, and is more computationally efficient and robust to noise than neural network models, making it viable for online training and execution in response to rapid changes to the system. SINDY-MPC also shows improved performance over linear data-driven models, although linear models may provide a stopgap until enough data is available for SINDY. SINDY-MPC is demonstrated on a variety of dynamical systems with different challenges, including the chaotic Lorenz system, a simple model for flight control of an F8 aircraft, and an HIV model incorporating drug treatment.

研究动机与目标

• 解决在低数据极限下，尤其是在系统发生突变后，实时模型识别在模型预测控制（MPC）中的挑战。
• 克服神经网络等黑箱、数据密集型模型的局限性，这些模型缺乏可解释性、泛化能力以及约束集成能力。
• 开发一种计算高效、对噪声鲁棒且能以极少训练数据快速适应的数据驱动MPC框架。
• 证明稀疏非线性动力学识别（SINDY）可扩展至包含执行控制，并有效提升MPC性能。
• 为在数据稀缺或非平稳条件下收集数据的在线控制场景，提供线性模型和神经网络的可行替代方案。

提出的方法

• 将SINDY框架扩展以在控制方程中引入执行控制项，从而实现对受控动力系统的建模。
• 使用稀疏回归识别解释观测数据的最少非线性项，确保模型简洁性与可解释性。
• 将所得的SINDY模型集成到模型预测控制（MPC）框架中，实现实时反馈控制。
• 应用序列阈值法与最小二乘回归，从有限且含噪声的时间序列数据中识别稀疏模型。
• 通过约束最小二乘法将已知物理约束（如对称性、守恒定律）嵌入SINDY回归中，以降低模型复杂度并提升稳定性。
• 在全状态测量不可用时，使用延迟坐标和Koopman嵌入，实现从部分观测中进行模型识别。

实验结果

研究问题

• RQ1 SINDY模型能否被有效扩展以包含执行控制，并在极低数据量下成功应用于受控动力系统的MPC框架？
• RQ2 与基于神经网络的MPC和线性数据驱动模型相比，SINDY-MPC在准确性、抗噪声能力及数据效率方面表现如何？
• RQ3 SINDY-MPC在系统动力学发生突变（如不稳定或混沌系统）后，能在多大程度上实现快速模型恢复？
• RQ4 能否高效地将物理约束与对称性嵌入SINDY回归中，以减少数据需求并提升模型泛化能力？
• RQ5 在实现非线性系统实时、可解释控制方面，智能数据（具有代表性、信息量高的测量）相较于大数据的作用是什么？

主要发现

• SINDY-MPC在控制性能上优于基于神经网络的MPC和线性数据驱动模型，尤其在低数据环境下表现更优。
• 该方法所需训练数据远少于神经网络，且对噪声具有鲁棒性，即使在稀疏或不完整测量下也能保持可靠性能。
• SINDY-MPC在计算效率上优于基于神经网络的MPC，适用于在线训练和实时执行。
• 由于能从有限数据中快速识别模型，该框架可在系统发生突变（如动力学变化或失稳）后实现快速模型恢复。
• 在SINDY回归中嵌入物理约束可减少自由参数数量并提升模型稳定性，进一步降低数据需求。
• SINDY-MPC框架已在多种系统中成功验证，包括混沌Lorenz系统、F8飞机飞行控制模型以及HIV治疗动力学模型，展现出广泛适用性。