[论文解读] Hybrid Physics and Deep Learning Model for Interpretable Vehicle State Prediction

Alexandra Baier, Zeyd Boukhers+1 more|arXiv (Cornell University)|Mar 11, 2021

Aerodynamics and Fluid Dynamics Research被引用 6

一句话总结

本文提出一种混合物理与深度学习模型，采用两阶段训练流程，以高精度和可解释性预测车辆状态。通过将长短期记忆（LSTM）网络输出限制在已知范围内，该方法确保神经网络的不确定性被限定，从而实现无需牺牲性能的可认证预测，已在船舶和四旋翼飞行器运动数据集上验证，具备环境干扰下的鲁棒性。

ABSTRACT

Physical motion models offer interpretable predictions for the motion of vehicles. However, some model parameters, such as those related to aero- and hydrodynamics, are expensive to measure and are often only roughly approximated reducing prediction accuracy. Recurrent neural networks achieve high prediction accuracy at low cost, as they can use cheap measurements collected during routine operation of the vehicle, but their results are hard to interpret. To precisely predict vehicle states without expensive measurements of physical parameters, we propose a hybrid approach combining deep learning and physical motion models including a novel two-phase training procedure. We achieve interpretability by restricting the output range of the deep neural network as part of the hybrid model, which limits the uncertainty introduced by the neural network to a known quantity. We have evaluated our approach for the use case of ship and quadcopter motion. The results show that our hybrid model can improve model interpretability with no decrease in accuracy compared to existing deep learning approaches.

研究动机与目标

• 为解决自动驾驶系统中车辆状态预测的可解释性与准确性之间的平衡挑战。
• 克服纯物理模型因参数不准确或不可测量而带来的局限性，以及纯深度学习模型缺乏可解释性的缺陷。
• 开发一种混合架构，将物理运动模型与LSTM结合，通过输出范围约束保持可解释性。
• 通过创新的两阶段训练流程，即使在使用非线性或不准确的物理模型时，也能实现混合模型的训练稳定性。
• 在真实环境干扰条件下评估模型性能，例如船舶和四旋翼飞行器的运动。

提出的方法

• 采用残差混合架构，其中LSTM预测物理模型的残差误差，结合基于物理的动力学与数据驱动的校正。
• 引入两阶段训练流程：首先在数据上训练物理模型；其次在残差误差上训练LSTM，防止多步预测过程中的误差累积。
• 通过将LSTM输出限制在相对阈值（例如~8%）内，强制实现可解释性，将神经网络的贡献限定在已知的不确定性范围内。
• 通过第一性原理和基于回归的公式化方法，支持广泛的物理模型，包括非线性和不完整模型（例如缺少气动参数的模型）。
• 采用长短期记忆（LSTM）网络进行时序建模，并将其与物理状态方程集成，以确保动态一致性。
• 通过在真实船舶和四旋翼飞行器数据集上，对1秒时间窗（100步）内的状态和轨迹预测指标评估模型性能。

实验结果

研究问题

• RQ1 结合物理与深度学习的混合模型能否在保持可解释性的同时实现高预测精度，以适用于安全关键的车辆控制？
• RQ2 如何以一种支持认证和安全验证的方式，对深度神经网络引入的不确定性进行有界控制？
• RQ3 当使用非线性或不准确的物理模型时，两阶段训练流程能否稳定混合模型的训练？
• RQ4 与纯数据驱动或纯物理模型相比，该混合模型在风、海浪等环境干扰下是否仍能保持性能？
• RQ5 该模型在不同车辆类型（如船舶和四旋翼飞行器）之间，面对不同动力学特性和控制输入，其泛化能力如何？

主要发现

• 混合模型的预测精度与无约束深度学习模型相当，其中性能最佳的变体（MinQ+Qua-2P）在四旋翼数据集上，于~8%相对阈值下与LSTM性能匹配。
• 在受环境干扰的船舶运动中，混合模型显著优于纯物理模型（如QLag），并匹配或超越了纯深度学习基线模型的性能。
• 两阶段训练流程成功防止了混合模型的训练发散，即使在使用非线性或不完整物理模型时，也能实现在长预测时序上的稳定学习。
• 输出约束机制将DNN的贡献限制在已知不确定性范围（~8%阈值）内，确保可解释性而不损失精度。
• 该模型在不同车辆类型间具有良好的泛化能力：在低干扰的四旋翼飞行器运动和高干扰的船舶运动中均表现优异，展现出强鲁棒性。
• 采用最小物理模型（MinQ）与二次回归（Qua）的混合模型在精度与可解释性之间实现了最佳平衡，其性能优于线性物理模型，尤其在复杂动力学场景中。