[论文解读] Machine Learning Climate Model Dynamics: Offline versus Online Performance

Noah Brenowitz, Brian Henn+6 more|arXiv (Cornell University)|Nov 5, 2020

Meteorological Phenomena and Simulations参考文献 12被引用 39

一句话总结

本论文将随机森林和神经网络作为全球气候模型3公里分辨率下湿物理参数化的不同做法进行比较，显示离线 NN 在准确性方面优于在线不稳定性，而 RF 在线保持稳定并有适度的在线增益。

ABSTRACT

Climate models are complicated software systems that approximate atmospheric and oceanic fluid mechanics at a coarse spatial resolution. Typical climate forecasts only explicitly resolve processes larger than 100 km and approximate any process occurring below this scale (e.g. thunderstorms) using so-called parametrizations. Machine learning could improve upon the accuracy of some traditional physical parametrizations by learning from so-called global cloud-resolving models. We compare the performance of two machine learning models, random forests (RF) and neural networks (NNs), at parametrizing the aggregate effect of moist physics in a 3 km resolution global simulation with an atmospheric model. The NN outperforms the RF when evaluated offline on a testing dataset. However, when the ML models are coupled to an atmospheric model run at 200 km resolution, the NN-assisted simulation crashes with 7 days, while the RF-assisted simulations remain stable. Both runs produce more accurate weather forecasts than a baseline configuration, but globally averaged climate variables drift over longer timescales.

研究动机与目标

• 在 ~3 km 分辨率的更现实的大气模型（FV3GFS）中演示 ML 参数化的可行性。
• 比较 RF 与 NN 在湿物理参数化方面的离线与在线性能。
• 评估将 ML 参数化耦合到较粗糙的 200 km 大气模型时的稳定性和预报技能。
• 强调 ML 辅助气候模拟的鲁棒性和漂移问题，并提出改进方向。

提出的方法

• 使用 RF 和 NN 来预测来自来自 3 km FV3GFS 数据的在地先进输入 x_i 的水分和温度源项 f。
• 将 f 计算为预算残差：f_i = dx_i/dt − g_i，其中 g_i 表示已知物理过程（平流加云端参数化）。
• 通过微调以从细分辨率数据获得 g_i 和 x_i 的平滑估计，正则化采用 3 小时的 nudging 时间尺度。
• 特征包括温度和湿度的垂直剖面、太阳天顶角的余弦、地形高程以及陆海掩模的信息。
• RF：最大深度 13，13 棵树（每批次 10 个时间步）。NN：两层，每层 128 个节点，ReLU，Adam 优化器（lr 0.001）。
• 使用以输出标准差的逆来缩放的 MSE 损失进行训练；批量大小 512；8 个时期；输入按批次归一化。

实验结果

研究问题

• RQ1 在高分辨率数据集上离线训练时，基于 ML 的参数化（RF 与 NN）是否能准确再现湿物理倾向？
• RQ2 离线（测试）准确性是否会转化为与较粗大气模型耦合时的稳定在线性能？
• RQ3 哪种模型（RF 与 NN）在气候相关变量（PW、Z500）的在线稳定性与预报技能方面表现更好？
• RQ4 与全物理基线相比，ML 辅助模拟中观察到的偏差与漂移现象有哪些？
• RQ5 离线-在线差异对在现实气候模型中部署 ML 参数化有哪些影响？

主要发现

• 离线情况下，NN 在测试数据集上优于 RF 的准确性（更高的 R^2）。
• 在线上，NN 辅助的模拟在耦合到 200 km 模型后大约 7 天后崩溃，而 RF 辅助的模拟完成了 10 天的 hindcast。
• 两种 ML 辅助运行在大约 5 天内比全物理基线具有更好的预报技能，但全球的 PW 和 Z500 在较长时间尺度上出现漂移。
• RF 在线上更具稳定性，原因在于其平均化行为；NN 可能由于耦合反馈和非高斯输入而不稳定。
• NN 的预测在离线时存在全局性偏差（加热），且对极端事件的鲁棒性较差；RF 对外推仍然更鲁棒。