[논문 리뷰] Super-resolution Probabilistic Rain Prediction from Satellite Data Using 3D U-Nets and EarthFormers

Yang Li, Haiyu Dong외 3명|arXiv (Cornell University)|2022. 12. 06.

Precipitation Measurement and Analysis인용 수 4

한 줄 요약

이 논문은 3D U-Net과 EarthFormers를 사용하여 다중 밴드 위성 데이터에서 8시간 예측을 위한 초해상도 확률적 강우 예측 모델을 제안한다. 이는 2022년 Weather4cast NeurIPS 경쟁 대회에서 뛰어난 성능을 기록하였다. 최적의 공간적 맥락, 클래스 불균형 손실 함수, 모델 앙상블, 임계값 조정을 활용하였으며, 강우 예측에 가장 예측력 있는 파장은 8.7 μm(구름 꼬리 위상)과 10.8/13.4 μm(구름 꼬리 높이)로 규명되었다.

ABSTRACT

Accurate and timely rain prediction is crucial for decision making and is also a challenging task. This paper presents a solution which won the 2 nd prize in the Weather4cast 2022 NeurIPS competition using 3D U-Nets and EarthFormers for 8-hour probabilistic rain prediction based on multi-band satellite images. The spatial context effect of the input satellite image has been deeply explored and optimal context range has been found. Based on the imbalanced rain distribution, we trained multiple models with different loss functions. To further improve the model performance, multi-model ensemble and threshold optimization were used to produce the final probabilistic rain prediction. Experiment results and leaderboard scores demonstrate that optimal spatial context, combined loss function, multi-model ensemble, and threshold optimization all provide modest model gain. A permutation test was used to analyze the effect of each satellite band on rain prediction, and results show that satellite bands signifying cloudtop phase (8.7 um) and cloud-top height (10.8 and 13.4 um) are the best predictors for rain prediction. The source code is available at https://github.com/bugsuse/weather4cast-2022-stage2.

연구 동기 및 목표

• 더 나은 기상 예측 의사결정을 위해 고해상도 위성 데이터를 활용한 단기 확률적 강우 예측을 향상시키기 위해.
• 위성 기반 강우 예측 모델에서 강우 분포의 불균형 문제를 해결하기 위해.
• 체계적인 분석을 통해 강우 예측에 가장 유용한 위성 밴드를 특정하기 위해.
• 다양한 모델 앙상블 전략과 임계값 최적화를 통해 모델 성능을 향상시키기 위해.
• 3D 공간-시간 데이터에 대한 딥 러닝 아키텍처를 활용하여 2022년 Weather4cast NeurIPS 경쟁에서 최고 수준의 성과를 달성하기 위해.

제안 방법

• 다중 밴드 위성 영상의 시공간 동역학을 모델링하기 위해 3D U-Net을 활용하여 장거리 공간적 및 시간적 의존성을 포착하였다.
• 입력 위성 데이터의 장거리 공간적 맥락을 향상시키기 위해 EarthFormers를 통합하여 특징 표현을 개선했다.
• 강우 사건의 불균형 분포를 고려하여 다양한 손실 함수를 적용한 모델을 훈련시켜 희귀 강우 사건의 탐지 능력을 향상시켰다.
• 다양한 모델의 예측을 조합하여 분산을 줄이고 강건성을 향상시키기 위해 다중 모델 앙상블 학습을 적용했다.
• 검증 데이터를 활용해 추론 임계값을 최적화하여 Brier 점수 및 AUC와 같은 확률적 예측 성능 지표를 극대화했다.
• 개별 위성 밴드가 강우 예측 성능에 기여하는 정도를 평가하기 위해 순열 테스트를 수행했다.

실험 결과

연구 질문

• RQ1 위성 영상에서 8시간 확률적 강우 예측에 최적의 공간적 맥락 범위는 무엇인가?
• RQ2 클래스 불균형 강우 데이터 하에서 다양한 손실 함수가 모델 성능에 미치는 영향은 무엇인가?
• RQ3 특히 적외선 및 수증기 스펙트럼에서 어떤 위성 밴드가 강우 예측에 가장 유의미하게 기여하는가?
• RQ4 모델 앙상블 및 임계값 최적화가 확률적 예측 신뢰도와 정확도를 얼마나 향상시키는가?
• RQ5 3D U-Net과 EarthFormers가 강우 예측을 위한 시공간 표현 학습을 어떻게 공동으로 향상시키는가?

주요 결과

• 아블레이션을 통해 최적의 공간적 맥락 범위를 규명하였으며, 이는 Weather4cast 랭킹보드에서 모델 성능을 크게 향상시켰다.
• 클래스 불균형 문제를 다루는 복합 손실 함수의 사용으로 경미한 및 중간 강우 사건 탐지에 측정 가능한 성과 향상이 이루어졌다.
• 구름 꼬리 위상을 나타내는 8.7 μm 밴드와 구름 꼬리 높이를 나타내는 10.8 μm 및 13.4 μm 밴드가 강우 발생 예측에 가장 예측력 있는 것으로 밝혀졌다.
• 다중 모델 앙상블 및 임계값 최적화는 Brier 점수 및 AUC를 포함한 확률적 예측 점수에 미미하지만 일관된 향상을 가져왔다.
• 순열 테스트 결과, 적외선 및 수증기 밴드가 가시광선 밴드보다 강우 예측에 더 유용한 정보를 제공하는 것으로 확인되었다.
• 제안된 아키텍처와 훈련 전략을 통해 2022년 Weather4cast NeurIPS 경쟁에서 랭킹 2위를 기록하며 경쟁력 있는 성과를 달성했다.