[论文解读] Physics Guided Recurrent Neural Networks For Modeling Dynamical Systems: Application to Monitoring Water Temperature And Quality In Lakes

Xiaowei Jia, Anuj Karpatne+6 more|arXiv (Cornell University)|Oct 5, 2018

Hydrological Forecasting Using AI参考文献 2被引用 34

一句话总结

本文提出物理引导的循环神经网络（PGRNN），通过将密度-深度关系和能量守恒等物理约束整合到LSTM模型中，提升湖泊温度与磷动态模拟的预测精度和科学一致性。通过引入基于物理的模型输出并利用定制损失函数强制执行物理定律，PGRNN在处理缺失数据和保持物理合理性方面显著优于标准RNN和仅依赖物理的模型。

ABSTRACT

In this paper, we introduce a novel framework for combining scientific knowledge within physics-based models and recurrent neural networks to advance scientific discovery in many dynamical systems. We will first describe the use of outputs from physics-based models in learning a hybrid-physics-data model. Then, we further incorporate physical knowledge in real-world dynamical systems as additional constraints for training recurrent neural networks. We will apply this approach on modeling lake temperature and quality where we take into account the physical constraints along both the depth dimension and time dimension. By using scientific knowledge to guide the construction and learning the data-driven model, we demonstrate that this method can achieve better prediction accuracy as well as scientific consistency of results.

研究动机与目标

• 解决纯数据驱动的机器学习模型在科学应用中的局限性，这些模型通常缺乏可解释性和物理一致性。
• 克服基于物理的模型因物理表征不完整而导致的不准确性。
• 开发一种混合建模框架，协同结合物理知识与数据驱动学习，以提升精度与科学有效性。
• 通过在训练过程中使用基于物理的模型输出作为先验，实现在数据稀缺环境下的稳健预测。
• 在损失函数中直接施加物理定律（如密度-深度单调性与能量守恒），以确保预测结果的物理合理性。

提出的方法

• PGRNN框架将基于物理的模型（如GLM）的输出作为输入特征，引导RNN学习，结合物理先验与数据驱动学习。
• 训练一种混合模型，其中基于物理的模型输出（Y_phy）用于优化预测并填补缺失观测值，确保时间上的连续性。
• 设计非标准损失函数，以惩罚违反物理约束的行为，例如密度随深度非单调变化或能量随时间不平衡。
• 密度-深度约束通过已知的水密度与温度函数关系，强制预测的水密度随深度单调增加。
• 能量守恒约束确保湖体平均温度的变化与净能量通量一致，该通量由入射与出射辐射及热交换推导得出。
• 模型采用改进的LSTM架构并引入注意力机制以捕捉时间依赖性，通过物理约束增强泛化能力与稳定性。

实验结果

研究问题

• RQ1 将基于物理的模型输出整合到循环神经网络中，能否提升湖泊温度与水质预测的准确性？
• RQ2 如何在神经网络的训练过程中嵌入如密度随深度单调变化等物理约束，以提升预测的物理一致性？
• RQ3 在湖泊温度的时间演化过程中强制实施能量守恒，能在多大程度上提升预测的可靠性与平滑性？
• RQ4 PGRNN是否能在RMSE和物理合理性方面优于纯物理模型与标准RNN，尤其是在数据稀疏区域？
• RQ5 使用物理引导的损失函数是否能减少虚假发现并提升动力系统科学建模的可解释性？

主要发现

• PGRNN将威斯康星州门多塔湖表层磷浓度预测的RMSE降低至0.0237，优于仅使用物理模型（0.0266）和标准RNN（0.0247）。
• 在密度-深度约束下，PGRNN的物理不一致性得分为0.0732，显著低于PGRNN0的0.1798，表明物理一致性得到显著提升。
• 能量守恒约束的引入使温跃层深度随时间的变化更加平滑且更符合实际，如图3所示。
• PGRNN在湖泊水温预测中RMSE为1.4791，优于RNN（1.6042）和ANN（1.8830），同时减少了物理不一致性。
• 模型通过使用基于物理的模型输出作为替代数据，有效处理了缺失观测值，维持了完整的训练时间轨迹。
• 将物理定律整合到损失函数中，使预测结果不仅更准确，而且更具科学合理性，尤其在捕捉温跃层动态与垂直密度分布方面表现突出。