[논문 리뷰] FuXi-Extreme: Improving extreme rainfall and wind forecasts with diffusion model

Xiaohui Zhong, Lei Chen외 4명|arXiv (Cornell University)|2023. 10. 25.

Climate variability and models인용 수 10

한 줄 요약

FuXi-Extreme은 FuXi의 5일간 표면 예보에서 미세한 규모의 세부 정보를 복원하기 위해 잡음 제거 확산 확률 모델을 사용하여 FuXi 및 HRES에 비해 극한 강수 및 바람 예측을 향상시킵니다.

ABSTRACT

Significant advancements in the development of machine learning (ML) models for weather forecasting have produced remarkable results. State-of-the-art ML-based weather forecast models, such as FuXi, have demonstrated superior statistical forecast performance in comparison to the high-resolution forecasts (HRES) of the European Centre for Medium-Range Weather Forecasts (ECMWF). However, ML models face a common challenge: as forecast lead times increase, they tend to generate increasingly smooth predictions, leading to an underestimation of the intensity of extreme weather events. To address this challenge, we developed the FuXi-Extreme model, which employs a denoising diffusion probabilistic model (DDPM) to restore finer-scale details in the surface forecast data generated by the FuXi model in 5-day forecasts. An evaluation of extreme total precipitation ($ extrm{TP}$), 10-meter wind speed ($ extrm{WS10}$), and 2-meter temperature ($ extrm{T2M}$) illustrates the superior performance of FuXi-Extreme over both FuXi and HRES. Moreover, when evaluating tropical cyclone (TC) forecasts based on International Best Track Archive for Climate Stewardship (IBTrACS) dataset, both FuXi and FuXi-Extreme shows superior performance in TC track forecasts compared to HRES, but they show inferior performance in TC intensity forecasts in comparison to HRES.

연구 동기 및 목표

• 기후 변화 하에서 기계 학습 모델이 예측을 과도하게 평탄화하는 경향이 있는 상황에서 극한 이벤트 예측의 개선 동기를 제시한다.
• FuXi를 잡음 제거 확산 확률 모델(DDPM)과 결합하여 미세 규모의 표면 특징을 복원하는 FuXi-Extreme를 개발한다.
• ERA5와 비교하여 극한 강수, 바람 속도, 온도를 평가하고 IBTrACS를 벤치마크로 삼아 열대 사이클 예측을 평가한다.
• FuXi, FuXi-Extreme, HRES 간의 TC 추적 및 강도 예측의 트레이드오프를 평가한다.
• 상위 대기 변수와 더 높은 해상도 데이터로 FuXi-Extreme를 확장하기 위한 한계점 식별 및 방향 제안을 한다.

제안 방법

• FuXi-Extreme은 FuXi의 고정된 기본 모델과 FuXi 출력을 노이즈 제거하는 DDPM을 결합하여 미세한 규모의 극한을 회복한다.
• DDPM은 FuXi의 시간 단계에 조건부로 설정되며 MSE 손실을 사용하여 원래 목표 값을 직접 예측한다.
• 전방 확산은 실제 표면 변수에 가우시안 노이즈를 추가하고, 역 과정은 FuXi 예측을 조건으로 노이즈를 제거하도록 학습한다.
• 훈련은 FuXi를 고정한 채 DDPM 매개변수만 업데이트하며 다중 GPU 하드웨어에서 스케줄된 DropPath를 사용하여 AdamW로 수행한다.
• 평가에는 극한 사건에 대한 CSI와 SEDI 지표 및 TC 추적/강도 지표를 IBTrACS 및 ERA5 기준값과 비교한다.

실험 결과

연구 질문

• RQ1 5일 동안 FuXi가 생성한 표면 예보에서 확산 기반 디노이저(DDPM)가 극한 값의 정확도를 향상시킬 수 있을까?
• RQ2 극한 TP, WS10, T2M 예측에서 FuXi-Extreme가 FuXi 및 ECMWF HRES와 어떻게 비교되는가?
• RQ3 HRES 및 FuXi에 비해 FuXi-Extreme가 열대 사이클의 추적 및 강도 예측에 미치는 영향은 무엇인가?
• RQ4 ERA5 실제값과 IBTrACS 궤적을 기반으로 한 평가가 트랙과 강도에 대한 모델의 능력에 대해 일관된 결론을 내리는가?

주요 결과

• FuXi-Extreme은 FuXi 및 HRES에 비해 5일 예측 전반에서 극한 WS10과 TP에 대해 가장 높은 CSI 점수를 달성한다.
• SEDI 분석은 T2M, TP, WS10의 상위 분위수에서 FuXi-Extreme가 FuXi 및 HRES보다 우수하다고 보여준다.
• TC 추적에서 FuXi와 FuXi-Extreme은 0-2일 예측에서 HRES를 능가하고 추적 예측의 더 긴 예측 시점에서도 계속해서 능가한다.
• TC 강도에서 IBTrACS 기반 평가에 대해 HRES가 최상의 RMSE를 보이고, FuXi와 FuXi-Extreme은 ERA5 기준값에 비해 RMSE가 개선된다.
• FuXi-Extreme의 개선은 표면 극값 변수에서 가장 뚜렷하며, 상층 대기 변수는 예측에서 FuXi와 공유된 채로 남아 있다.