[论文解读] MetNet: A Neural Weather Model for Precipitation Forecasting

Casper Kaae Sønderby, Lasse Espeholt+7 more|arXiv (Cornell University)|Mar 24, 2020

Meteorological Phenomena and Simulations参考文献 26被引用 306

一句话总结

MetNet 以 1 km2 空间分辨率和 2 分钟时序分辨率，在 radar 与 satellite 输入下，使用轴向自注意力，对前 8 小时的降水进行预测，在美国本土尺度上优于 NOAA HRRR。

ABSTRACT

Weather forecasting is a long standing scientific challenge with direct social and economic impact. The task is suitable for deep neural networks due to vast amounts of continuously collected data and a rich spatial and temporal structure that presents long range dependencies. We introduce MetNet, a neural network that forecasts precipitation up to 8 hours into the future at the high spatial resolution of 1 km$^2$ and at the temporal resolution of 2 minutes with a latency in the order of seconds. MetNet takes as input radar and satellite data and forecast lead time and produces a probabilistic precipitation map. The architecture uses axial self-attention to aggregate the global context from a large input patch corresponding to a million square kilometers. We evaluate the performance of MetNet at various precipitation thresholds and find that MetNet outperforms Numerical Weather Prediction at forecasts of up to 7 to 8 hours on the scale of the continental United States.

研究动机与目标

• 证明神经网络能够在大区域内实现高空间/时间分辨率的降水预测。
• 表明直接的概率预测可以在不依赖物理 PDE 模型的情况下捕捉不确定性。
• 研究大尺度空间上下文以及快速并行推理在天气预测中的作用。
• 将 MetNet 与传统的数值天气预报（NWP）系统及基线在长达 8 小时的预测时效上进行比较。

提出的方法

• 使用覆盖 1024x1024 km 区域的四维输入补丁，捕捉 MRMS 雷达、GOES-16 卫星数据以及静态地理位置信息。
• 通过将提前时间信息编码为输入特征，条件化 MetNet 的目标提前时间。
• 输出一个 512 级别的分布表示降水速率从 0 到 102.4 mm/h，间隔为 0.2 mm/h。
• 对每个时间切片先使用 Spatial Downsampler，然后再用 Temporal Encoder (ConvLSTM) 捕捉时间动态。
• 应用一个 8 层的轴向自注意力 Spatial Aggregator，以高效实现全局感受野。
• 使用离散化的目标分布进行训练，以稳定学习并捕捉不确定性。

实验结果

研究问题

• RQ1 MetNet 能否在美大陆区的 2–8 小时降水预测中优于工作中的 NWP 系统（如 HRRR）？
• RQ2 增加空间和时间上下文如何影响不同降水阈值的预测精度？
• RQ3 不同提前时间下 MRMS 与 GOES-16 数据对 MetNet 性能的贡献是什么？
• RQ4 神经天气模型能否提供已校准的概率预测，并具备适合实时使用的实际延迟？
• RQ5 在 NWMs 中，空间上下文、时间上下文和模型架构之间有哪些权衡？

主要发现

• MetNet 在美大陆范围内长达 8 小时的多阈值预测中显著优于 HRRR。
• MetNet 的性能随更大的空间上下文而提升；在较小上下文的消融中，提前时间超过约 150 分钟时表现下降。
• 在较短提前时间，包含 MRMS 数据更为关键；而在较长提前时间，GOES-16 数据相对更有用。
• MetNet 在每个提前时间上实现接近秒级延迟，具有与提前时间无关的并行计算。
• MetNet 使用 1024x1024 km 输入补丁和 64x64 km 目标补丁，以平衡上下文和分辨率。
• 消融研究表明，捕捉超过 512 km 的空间上下文以及最长至 90 分钟的时间上下文的重要性。