[论文解读] Super-resolution Probabilistic Rain Prediction from Satellite Data Using 3D U-Nets and EarthFormers

Yang Li, Haiyu Dong+3 more|arXiv (Cornell University)|Dec 6, 2022

Precipitation Measurement and Analysis被引用 4

一句话总结

本论文提出了一种基于3D U-Net与EarthFormers的超分辨率概率性降雨预测模型，利用多波段卫星数据进行8小时预报，在Weather4cast 2022 NeurIPS竞赛中表现优异。该方法结合了最优空间上下文、类别不平衡损失函数、模型集成与阈值调优，其中8.7 μm（云顶相态）和10.8/13.4 μm（云顶高度）波段被识别为对降雨预测最具预测力的波段。

ABSTRACT

Accurate and timely rain prediction is crucial for decision making and is also a challenging task. This paper presents a solution which won the 2 nd prize in the Weather4cast 2022 NeurIPS competition using 3D U-Nets and EarthFormers for 8-hour probabilistic rain prediction based on multi-band satellite images. The spatial context effect of the input satellite image has been deeply explored and optimal context range has been found. Based on the imbalanced rain distribution, we trained multiple models with different loss functions. To further improve the model performance, multi-model ensemble and threshold optimization were used to produce the final probabilistic rain prediction. Experiment results and leaderboard scores demonstrate that optimal spatial context, combined loss function, multi-model ensemble, and threshold optimization all provide modest model gain. A permutation test was used to analyze the effect of each satellite band on rain prediction, and results show that satellite bands signifying cloudtop phase (8.7 um) and cloud-top height (10.8 and 13.4 um) are the best predictors for rain prediction. The source code is available at https://github.com/bugsuse/weather4cast-2022-stage2.

研究动机与目标

• 利用高分辨率卫星数据改进短期概率性降雨预测，以提升气象预报中的决策质量。
• 解决基于卫星的降雨预测模型中降雨分布不均衡的挑战。
• 通过系统性分析，识别对降水预测最具信息量的卫星波段。
• 通过多模型集成策略与阈值优化，提升模型性能。
• 在3D时空数据上应用深度学习架构，在Weather4cast 2022 NeurIPS竞赛中取得最先进水平的结果。

提出的方法

• 采用3D U-Net建模多波段卫星图像中的时空动态，捕捉长程空间与时间依赖性。
• 集成EarthFormers以增强输入卫星数据中长程空间上下文的建模能力，提升特征表示。
• 训练多个采用针对降雨事件分布不均衡问题定制的损失函数的模型，以提升对稀少降水事件的检测能力。
• 应用多模型集成学习，融合多样化模型的预测结果，降低方差并提升鲁棒性。
• 利用验证数据优化推理阈值，以最大化概率预报性能指标（如Brier评分与AUC）。
• 通过置换测试评估各卫星波段对降雨预测性能的贡献。

实验结果

研究问题

• RQ1 在卫星图像中，多大的空间上下文范围能为8小时概率性降雨预测带来最优性能？
• RQ2 在类别不平衡的降雨数据下，不同损失函数如何影响模型性能？
• RQ3 哪些卫星波段——尤其是红外与水汽波段——对准确预测降雨具有最显著的贡献？
• RQ4 模型集成与阈值优化在多大程度上提升了概率预报的可靠性与准确性？
• RQ5 3D U-Net与EarthFormers如何协同增强降水预报中的时空表征学习？

主要发现

• 通过消融实验确定了最优空间上下文范围，显著提升了模型在Weather4cast排行榜上的表现。
• 采用结合类不平衡处理的损失函数，显著提升了对轻度与中度降雨事件的检测能力。
• 8.7 μm波段（指示云顶相态）以及10.8 μm与13.4 μm波段（指示云顶高度）被证实对降雨发生具有最强预测力。
• 多模型集成与阈值优化在概率预报评分（包括Brier评分与AUC）上带来了适度但一致的性能提升。
• 置换测试结果证实，红外与水汽波段比可见光波段对降水预测更具信息量。
• 该模型在Weather4cast 2022 NeurIPS竞赛中取得了具有竞争力的排行榜得分，凭借所提出的架构与训练策略获得第二名。