[论文解读] Multi-Objective Physics-Guided Recurrent Neural Networks for Identifying Non-Autonomous Dynamical Systems

Oliver Schön, Ricarda‐Samantha Götte+1 more|arXiv (Cornell University)|Apr 27, 2022

Model Reduction and Neural Networks参考文献 19被引用 9

一句话总结

本文提出了一种多目标物理引导循环神经网络（MOPGRNN），将基于物理的常微分方程（ODE）模型与循环神经网络（RNN）相结合，用于在控制条件下识别非自治动力系统。通过采用多目标优化进行训练，以强制实现物理合理性（如能量守恒），该方法在真实世界高尔夫机器人数据上的表现显著优于纯数据驱动模型，甚至比原始物理模型的性能提升高达46%。

ABSTRACT

While trade-offs between modeling effort and model accuracy remain a major concern with system identification, resorting to data-driven methods often leads to a complete disregard for physical plausibility. To address this issue, we propose a physics-guided hybrid approach for modeling non-autonomous systems under control. Starting from a traditional physics-based model, this is extended by a recurrent neural network and trained using a sophisticated multi-objective strategy yielding physically plausible models. While purely data-driven methods fail to produce satisfying results, experiments conducted on real data reveal substantial accuracy improvements by our approach compared to a physics-based model.

研究动机与目标

• 解决在非自治动力系统识别中建模复杂度与精度之间的权衡问题。
• 克服纯数据驱动模型的局限性，这些模型通常缺乏物理合理性，且在安全关键应用中表现不佳。
• 将基于物理的约束整合到数据驱动框架中，确保学习到的模型具有物理有效性且具备良好的泛化能力。
• 通过结合先验物理知识与神经网络的灵活性，提升模型的精度与鲁棒性，尤其是在训练数据有限的情况下。
• 开发一种区分训练、验证和测试目标的训练策略，包含可微与不可微的损失函数。

提出的方法

• 通过将基于物理的常微分方程（ODE）模型与循环神经网络（RNN）结合，构建物理引导循环神经网络（PGRNN），以建模状态动态和输出。
• 制定一个多目标优化问题，同时最小化预测误差并强制满足物理约束，如能量守恒。
• 利用系统的能量动力学定义基于物理的约束：∆EM,t = J¨ˆϕt ˙ˆϕt + mga ˙ˆϕt sin ˆϕt + d ˙ˆϕ2t + MF,t ˙ˆϕt −4 ˙ˆϕtut，该约束必须由模型满足。
• 使用混合损失函数，同时包含回归损失（用于预测精度）和约束违反损失（用于物理合理性）。
• 应用数值微分，从真实数据中直接测量的角度数据估计未测量的状态导数（如角速度和角加速度）。
• 使用针对训练、验证和测试分别定义的目标函数对MOPGRNN进行训练，以实现稳健的泛化能力并改善模型条件。

实验结果

研究问题

• RQ1 与纯数据驱动模型相比，结合基于物理的ODE与RNN的混合模型是否能提升非自治动力系统识别的精度？
• RQ2 强制实施物理约束（如能量守恒）在多大程度上能提升学习模型的合理性与鲁棒性？
• RQ3 在训练数据有限的情况下，尤其当存在非线性动力学（如摩擦）时，MOPGRNN的性能如何？
• RQ4 多目标训练策略是否能有效平衡真实控制系统中预测精度与物理一致性？
• RQ5 在真实数据场景中，物理引导约束的整合是否能降低过拟合风险并提升泛化能力？

主要发现

• 在高尔夫机器人系统上，MOPGRNN在仿真误差降低方面比纯数据驱动的RNN最高提升46%，即使训练数据有限。
• 仅使用15个训练样本时，MOPGRNN的仿真误差为0.15 s（均值 ± 2σ），显著低于基于物理的模型（0.35 s）和RNN（0.35 s）。
• 引入正弦激励数据后，RNN与MOPGRNN之间的性能差距进一步扩大，MOPGRNN相比基于物理的模型仍保持59%的性能提升。
• 在长预测时域内，MOPGRNN表现出极低的约束违反（绝对∆ ≤ 0.1 J），表明其具有强大的物理合理性。
• 随着训练数据增加，MOPGRNN相比基于物理的模型（Mphy）将仿真误差降低了38%，且标准差保持较低水平。
• 即使训练数据极少，MOPGRNN也未表现出显著的性能下降，凸显其数据效率与鲁棒性。