[论文解读] Combining Physics and Deep Learning to learn Continuous-Time Dynamics Models

Michael Lutter, Jan Peters|arXiv (Cornell University)|Oct 5, 2021

Model Reduction and Neural Networks被引用 10

一句话总结

本文提出深度拉格朗日网络（DeLaN），一种将拉格朗日力学与神经网络相结合的物理信息深度学习框架，用于学习连续时间动力学模型。通过最小化欧拉-拉格朗日方程的残差，DeLaN 确保能量守恒与物理合理性，实现可解释的前向、逆向及能量模型——在模拟与真实刚体系统上的长期预测与实时控制任务中，性能优于黑箱神经网络。

ABSTRACT

Deep learning has been widely used within learning algorithms for robotics. One disadvantage of deep networks is that these networks are black-box representations. Therefore, the learned approximations ignore the existing knowledge of physics or robotics. Especially for learning dynamics models, these black-box models are not desirable as the underlying principles are well understood and the standard deep networks can learn dynamics that violate these principles. To learn dynamics models with deep networks that guarantee physically plausible dynamics, we introduce physics-inspired deep networks that combine first principles from physics with deep learning. We incorporate Lagrangian mechanics within the model learning such that all approximated models adhere to the laws of physics and conserve energy. Deep Lagrangian Networks (DeLaN) parametrize the system energy using two networks. The parameters are obtained by minimizing the squared residual of the Euler-Lagrange differential equation. Therefore, the resulting model does not require specific knowledge of the individual system, is interpretable, and can be used as a forward, inverse, and energy model. Previously these properties were only obtained when using system identification techniques that require knowledge of the kinematic structure. We apply DeLaN to learning dynamics models and apply these models to control simulated and physical rigid body systems. The results show that the proposed approach obtains dynamics models that can be applied to physical systems for real-time control. Compared to standard deep networks, the physics-inspired models learn better models and capture the underlying structure of the dynamics.

研究动机与目标

• 解决黑箱深度神经网络在机器人领域中的局限性，后者忽略物理原理，可能导致非物理解析的动力学行为。
• 开发一种将第一性原理物理与深度学习相结合的模型学习框架，以提升泛化能力与可解释性。
• 利用同一套参数架构，实现前向动力学、逆向动力学与能量模型的联合学习。
• 尽管存在观测噪声与状态部分可观测的情况，仍将基于物理启发的模型扩展至真实世界机器人系统。
• 克服现有物理信息网络在处理复杂接触与非理想观测时泛化能力不足的问题。

提出的方法

• DeLaN 使用两个独立的深度神经网络分别参数化系统的动能与势能。
• 通过最小化欧拉-拉格朗日微分方程的平方残差来优化网络参数，以确保物理一致性。
• 该方法保证能量守恒，并确保学习到的动力学行为符合运动定律，而无需显式依赖系统结构。
• 相同的网络参数被用于计算前向动力学、逆向动力学与系统能量，实现多任务建模。
• 该方法被应用于模拟与真实机器人系统，包括单摆与机械臂，并评估了其实时控制性能。
• 扩展方法包括使用变分自编码器从图像中推断广义坐标，尽管在复杂系统中仍具挑战性。

实验结果

研究问题

• RQ1 是否可以在不依赖系统特定解析模型的前提下，使动力学深度学习模型具备物理一致性？
• RQ2 是否可使用单一深度学习架构，通过共享参数同时学习前向、逆向与能量模型，并实现能量守恒？
• RQ3 与黑箱深度神经网络相比，物理信息模型在长期预测与控制任务中的性能表现如何？
• RQ4 在存在观测噪声与状态部分可观测的情况下，基于物理启发的模型是否能泛化至真实世界机器人系统？
• RQ5 当前物理信息网络在处理多接触动力学与未观测广义坐标时存在哪些局限性？

主要发现

• 通过在欧拉-拉格朗日方程残差上施加物理一致性约束，DeLaN 模型在长期预测中精度优于标准黑箱深度神经网络。
• 物理信息模型实现了系统能量守恒，这对稳定长周期控制与仿真至关重要。
• DeLaN 可直接从学习到的模型中计算系统能量、动量与重力作用力——这些特性在黑箱模型中无法获取。
• 该方法在真实机器人系统上实现了实时控制性能，证明了其在存在观测噪声情况下的实际可用性。
• 当广义坐标可被观测时，DeLaN 与哈密顿神经网络（HNN）性能几乎完全一致，但在结构化预测任务中，DeLaN 显著优于黑箱模型。
• 该方法是首个基于深度学习、无需依赖运动学结构即可直接从数据中学习系统能量的方法，此前仅可通过系统辨识实现。