[论文解读] Physics-constrained deep learning postprocessing of temperature and humidity

Francesco Zanetta, Daniele Nerini+2 more|arXiv (Cornell University)|Dec 7, 2022

Model Reduction and Neural Networks被引用 4

一句话总结

本文提出一种物理约束的深度学习框架，用于瑞士地表温度和湿度预报的后处理，通过在神经网络架构中直接施加热力学方程来实现。该方法在不牺牲性能的前提下实现了物理上一致的预测，尤其在数据稀缺条件下表现更优，并通过可微分的解析约束实现从构造上保证精确的物理一致性。

ABSTRACT

Weather forecasting centers currently rely on statistical postprocessing methods to minimize forecast error. This improves skill but can lead to predictions that violate physical principles or disregard dependencies between variables, which can be problematic for downstream applications and for the trustworthiness of postprocessing models, especially when they are based on new machine learning approaches. Building on recent advances in physics-informed machine learning, we propose to achieve physical consistency in deep learning-based postprocessing models by integrating meteorological expertise in the form of analytic equations. Applied to the post-processing of surface weather in Switzerland, we find that constraining a neural network to enforce thermodynamic state equations yields physically-consistent predictions of temperature and humidity without compromising performance. Our approach is especially advantageous when data is scarce, and our findings suggest that incorporating domain expertise into postprocessing models allows to optimize weather forecast information while satisfying application-specific requirements.

研究动机与目标

• 为解决基于机器学习的天气后处理中出现的物理不一致性，特别是温度与湿度之间热力学关系的违反问题。
• 通过在数据驱动模型中施加物理定律，提升对水文和可再生能源等下游应用的预报可靠性与可信度。
• 评估将领域特定的解析方程整合到深度学习中是否能提升性能与鲁棒性，特别是在训练数据有限的情况下。
• 探索物理约束是否能提升模型在分布外条件（如极端高温事件）下的泛化能力。
• 展示一种简单、可扩展的框架，通过可微分方程将科学知识嵌入后处理模型中。

提出的方法

• 该方法采用全连接神经网络架构，其中最后一层被约束以满足温度与比湿之间的理想气体定律和克劳修斯-克拉佩龙关系。
• 通过自定义网络层实现物理一致性，确保输出在设计上满足热力学状态方程 T = f(q, p)，而非通过损失正则化实现。
• 模型使用标准的平均绝对误差（MAE）损失在观测温度和比湿上进行训练，未引入额外的物理相关损失项。
• 采用相同的训练与评估协议，将该方法与无约束和损失约束的深度学习基线模型进行对比。
• 通过将每站的训练样本减少至1%来评估数据稀缺下的表现，并通过在非夏季月份训练、夏季月份测试来评估分布外泛化能力。
• 该方法采用可微分操作实现，支持端到端训练，同时保持精确的物理一致性。

实验结果

研究问题

• RQ1 能否通过将解析热力学方程直接嵌入网络架构，使深度学习后处理模型实现物理一致性？
• RQ2 在数据稀缺条件下，物理约束如何影响模型性能，特别是在训练样本有限的情况下？
• RQ3 施加物理一致性是否能提升模型对训练期间未见的极端天气条件（如夏季热浪）的泛化能力？
• RQ4 与无约束和损失约束模型相比，该架构约束方法在物理一致性和预测准确性方面表现如何？
• RQ5 该框架未来能否扩展至概率性预报和全球尺度的后处理？

主要发现

• 架构约束模型在所有测试案例中均实现了机器精度范围内的物理一致性，物理不一致性精确为零。
• 在数据稀缺（每站仅1%训练样本）条件下，架构约束模型保持了物理一致性，仅出现轻微性能下降；而无约束模型则表现出物理不一致性持续增加。
• 随着训练数据减少，无约束模型的物理不一致性显著上升，凸显了在低数据场景下物理约束的价值。
• 模型的预测性能（以NMAE衡量）与无约束和损失约束模型相当，尽管增加了物理约束，但未造成准确率下降。
• 物理约束并未显著提升对未见夏季高温极端事件的泛化能力，表明此类约束有助于内插，但对分布外外推无明显改善。
• 该方法具有可扩展性，可适用于任何可微分的物理方程，从而以模块化且系统化的方式将领域专业知识整合到后处理模型中。