[论文解读] Physics Guided RNNs for Modeling Dynamical Systems: A Case Study in Simulating Lake Temperature Profiles

Xiaowei Jia, Jared Willard+5 more|arXiv (Cornell University)|Oct 31, 2018

Hydrological Forecasting Using AI参考文献 20被引用 13

一句话总结

本文提出物理引导循环神经网络（PGRNN），通过将物理定律——特别是能量守恒——整合到RNN架构中，以改进湖泊温度动态的建模。通过结合数据驱动学习与基于物理的正则化，PGRNN在纯物理模型之上实现了更高的准确性，比标准RNN具有更好的物理一致性，并且在有限观测数据下通过在物理模拟数据上预训练，表现出更优的泛化能力。

ABSTRACT

This paper proposes a physics-guided recurrent neural network model (PGRNN) that combines RNNs and physics-based models to leverage their complementary strengths and improve the modeling of physical processes. Specifically, we show that a PGRNN can improve prediction accuracy over that of physical models, while generating outputs consistent with physical laws, and achieving good generalizability. Standard RNNs, even when producing superior prediction accuracy, often produce physically inconsistent results and lack generalizability. We further enhance this approach by using a pre-training method that leverages the simulated data from a physics-based model to address the scarcity of observed data. The PGRNN has the flexibility to incorporate additional physical constraints and we incorporate a density-depth relationship. Both enhancements further improve PGRNN performance. Although we present and evaluate this methodology in the context of modeling the dynamics of temperature in lakes, it is applicable more widely to a range of scientific and engineering disciplines where mechanistic (also known as process-based) models are used, e.g., power engineering, climate science, materials science, computational chemistry, and biomedicine.

研究动机与目标

• 解决纯物理模型的局限性，其因知识不全或计算约束导致参数不确定性与模型近似问题。
• 克服黑箱机器学习模型的不足，后者常违反物理定律且难以泛化至训练数据之外的场景。
• 开发一种混合建模框架，结合物理模型与深度学习的优势，以提升预测精度与物理一致性。
• 通过在物理模型生成的模拟数据上进行预训练，提升数据效率，以弥补真实观测数据的稀缺性。
• 证明该方法可推广至其他涉及动力系统的科学与工程领域，而不仅限于湖泊温度建模。

提出的方法

• PGRNN模型采用两条并行的RNN流：一条用于从观测数据中学习时间依赖性，另一条通过物理引导的损失函数强制实现能量守恒。
• 物理引导的损失函数通过惩罚能量不平衡的偏差来正则化模型，确保生成的时间轨迹具有物理合理性。
• 模型在基于物理的湖泊模型（GLM）生成的合成数据上进行预训练，以提升数据效率与泛化能力，尤其在真实数据有限时表现更优。
• 该架构包含双重复用流：一条标准RNN用于数据拟合，另一条能量流用于随时间保持能量守恒。
• 该方法可推广至其他物理定律，如质量守恒，适用于营养循环、作物建模等多样化系统。
• 该框架支持集成领域特定的物理约束，从而在科学应用中提升可解释性与可靠性。

实验结果

研究问题

• RQ1 结合RNN与物理约束的混合模型是否能在湖泊温度模拟中实现比传统物理模型更高的预测精度？
• RQ2 此类模型在仅使用有限数据训练时，是否仍能生成符合物理定律（如能量守恒）的输出？
• RQ3 在物理模拟数据上进行预训练如何影响模型性能及其对未见条件的泛化能力？
• RQ4 PGRNN框架在湖泊温度建模之外的动力系统中，其泛化能力可扩展到何种程度？
• RQ5 该模型是否能在准确性和物理合理性两方面均优于标准黑箱RNN？

主要发现

• PGRNN在真实湖泊温度观测数据上的预测精度高于基线物理模型（GLM），证明了数据驱动优化的优势。
• 通过强制实施能量守恒，模型生成了物理解释一致的输出，避免了标准RNN中常见的非物理解振荡。
• 在GLM生成的模拟数据上进行预训练，显著提升了真实数据稀缺时的性能，增强了数据效率。
• 与标准RNN相比，该模型在未见气候情景下的泛化能力更强，后者因缺乏物理约束而无法有效外推。
• 双流架构使模型能够学习复杂的时间模式，同时保持物理保真度，优于纯机器学习与纯物理模型。
• 该框架可扩展至其他物理定律（如质量守恒），从而在环境与工程系统中实现更广泛的应用。