[论文解读] Combining data assimilation and machine learning to estimate parameters of a convective-scale model

Stefanie Legler, Tijana Janjić|arXiv (Cornell University)|Sep 7, 2021

Meteorological Phenomena and Simulations参考文献 35被引用 19

一句话总结

本研究提出一种混合框架，结合集合卡尔曼滤波（EnKF）与贝叶斯神经网络及确定性神经网络，从稀疏、噪声观测中估计对流尺度浅水模型中的不确定参数。该方法通过学习参数-状态关系，降低了状态估计误差，尤其在降雨方面表现更优，其中贝叶斯神经网络在准确性和不确定性量化方面优于确定性网络。

ABSTRACT

Errors in the representation of clouds in convection-permitting numerical weather prediction models can be introduced by different sources. These can be the forcing and boundary conditions, the representation of orography, the accuracy of the numerical schemes determining the evolution of humidity and temperature, but large contributions are due to the parametrization of microphysics and the parametrization of processes in the surface and boundary layers. These schemes typically contain several tunable parameters that are either not physical or only crudely known, leading to model errors. Traditionally, the numerical values of these model parameters are chosen by manual model tuning. More objectively, they can be estimated from observations by the augmented state approach during the data assimilation. Alternatively, in this work, we look at the problem of parameter estimation through an artificial intelligence lens by training two types of artificial neural networks (ANNs) to estimate several parameters of the one-dimensional modified shallow-water model as a function of the observations or analysis of the atmospheric state. Through perfect model experiments, we show that Bayesian neural networks (BNNs) and Bayesian approximations of point estimate neural networks (NNs) are able to estimate model parameters and their relevant statistics. The estimation of parameters combined with data assimilation for the state decreases the initial state errors even when assimilating sparse and noisy observations. The sensitivity to the number of ensemble members, observation coverage, and neural network size is shown. Additionally, we use the method of layer-wise relevance propagation to gain insight into how the ANNs are learning and discover that they naturally select only a few gridpoints that are subject to strong winds and rain to make their predictions of chosen parameters.

研究动机与目标

• 解决在对流尺度数值天气预报模型中估计未知或非物理参数的挑战。
• 克服传统人工调参及增强状态方法在数据同化中用于参数估计的局限性。
• 开发一种基于机器学习的参数估计方法，实现不确定性量化与可解释性。
• 研究贝叶斯神经网络（BNNs）与集合点估计神经网络在稀疏且噪声观测下估计模型参数的性能。
• 使用逐层重要性传播（LRP）方法，解释神经网络如何基于大气状态变量做出参数预测。

提出的方法

• 使用一维改进的浅水模型，包含可调参数：降雨移除率（α）、位势高度阈值（φc）和降雨阈值（hr）。
• 生成带噪声和稀疏性的合成观测，以模拟真实世界观测约束。
• 应用集合卡尔曼滤波（EnKF）进行状态估计，以大气状态（u, h, r）作为输入。
• 训练贝叶斯神经网络（BNNs）与确定性神经网络（DNNs），将模型参数预测为观测状态的函数。
• 使用贝叶斯近似估计参数预测中的不确定性，实现概率性解释。
• 应用逐层重要性传播（LRP）可视化特征重要性，基于空间与变量相关性解释模型决策。

实验结果

研究问题

• RQ1 贝叶斯神经网络与确定性神经网络能否有效从稀疏且噪声观测中估计对流尺度模型的参数？
• RQ2 将数据同化与机器学习结合，相较于不进行参数估计的标准EnKF，能否显著提升状态估计精度？
• RQ3 在参数估计精度与不确定性量化方面，贝叶斯神经网络与集合点估计网络的相对性能如何？
• RQ4 哪些大气变量（u, h, r）对神经网络的参数预测最具影响力，这种影响在不同参数间如何变化？
• RQ5 逐层重要性传播（LRP）能否揭示神经网络学习参数估计过程中的有意义物理解释？

主要发现

• 与确定性网络相比，贝叶斯神经网络（BNNs）将参数估计的均方根误差（RMSE）降低了高达30%，且训练时间更短，超参数调优更少。
• 通过神经网络引入参数估计后，状态估计误差显著降低，尤其在降雨（r）方面，RMSE最高降低达40%，相较于未使用参数估计的情况。
• LRP分析显示，神经网络主要依赖少数几个风速和降水较强的网格点进行预测，尤其在φc和hr的估计中表现明显。
• 对于降雨移除率α，流体高度h是最重要的变量；而对于φc和hr，降雨（r）在LRP热图中成为主导输入特征。
• 在同时估计所有参数时，仅有少数关键网格点具有相关性；然而，若为每个参数单独训练网络，则在更多网格点上表现出更高的空间相关性。
• 使用BNNs时，状态分析的集合离散度增加，表明不确定性量化能力提升；同时RMSE下降，说明整体性能更优。