[논문 리뷰] FengWu-GHR: Learning the Kilometer-scale Medium-range Global Weather Forecasting

Tao Han, Song Guo외 8명|arXiv (Cornell University)|2024. 01. 28.

Computational Physics and Python Applications인용 수 7

한 줄 요약

FengWu-GHR은 0.09° 해상도(~9 km)에서 데이터를 기반으로 한 글로벌 기상 예측 모델로서, 저해상도 사전학습 모델의 지식을 계승하고 전이 학습, SIME 외삽, RES 모듈, 그리고 LoRA를 사용하여 장기 예측을 수행하는 최초의 데이터 기반 모델이다.

ABSTRACT

Kilometer-scale modeling of global atmosphere dynamics enables fine-grained weather forecasting and decreases the risk of disastrous weather and climate activity. Therefore, building a kilometer-scale global forecast model is a persistent pursuit in the meteorology domain. Active international efforts have been made in past decades to improve the spatial resolution of numerical weather models. Nonetheless, developing the higher resolution numerical model remains a long-standing challenge due to the substantial consumption of computational resources. Recent advances in data-driven global weather forecasting models utilize reanalysis data for model training and have demonstrated comparable or even higher forecasting skills than numerical models. However, they are all limited by the resolution of reanalysis data and incapable of generating higher-resolution forecasts. This work presents FengWu-GHR, the first data-driven global weather forecasting model running at the 0.09$^{\circ}$ horizontal resolution. FengWu-GHR introduces a novel approach that opens the door for operating ML-based high-resolution forecasts by inheriting prior knowledge from a pretrained low-resolution model. The hindcast of weather prediction in 2022 indicates that FengWu-GHR is superior to the IFS-HRES. Furthermore, evaluations on station observations and case studies of extreme events support the competitive operational forecasting skill of FengWu-GHR at the high resolution.

연구 동기 및 목표

• 고해상도 글로벌 기상 예측을 촉진하고 세밀한 스케일에서 ML 기반 모델과 운용 NWP 간의 차이를 해소한다.
• 0.09° 해상도의 데이터 기반 글로벌 예측 모델을 개발하고 IFS-HRES와 비교해 경쟁력 있는 성능을 보인다.
• 저해상도에서 학습된 사전지식을 고해상도 예측에 활용할 수 있는 확장 가능한 메타 모델을 제안한다.
• 저해상도(LR) 사전학습 모델을 고해상도 예측에 외삽하고 소규모 현상을 포착하는 방법을 도입한다.
• 스텝별 미세 조정과 저랭크 적응을 통해 장기 예측의 안정성을 향상시킨다.

제안 방법

• 2-D 패치 임베딩, 스택된 트랜스포머 블록, 디컨볼루션 계를 갖춘 트랜스포머 기반 메타 모델을 사용하여 한 단계의 미래 상태를 예측한다.
• LR-학습 모델을 위해 HR 초기 필드를 다수의 LR 초기 필드로 매핑하는 Spatial Identical Mapping Extrapolate (SIME)를 적용하여 복잡도를 줄인다.
• 소규모 현상을 포착하기 위해 Regional Enhanced Simulation (RES) 모듈과 함께 Decompositional and Combinational Transfer Learning (DCTL)을 통합한다.
• Long-rollouts 동안 각 예측 단계를 독립적으로 미세 조정하기 위해 Low-Rank Adaptation (LoRA)을 적용하고 사전 학습된 파라미터는 고정한다.
• LR에서 ERA5 재분석으로 사전 학습하고(예: 0.25°) 공식 고해상도 운용 해석 자료(~9 km)와 비교 평가한다.

실험 결과

연구 질문

• RQ1 저해상도에서 학습된 데이터 기반 모델을 킬로미터 규모의 해상도로 외삽하더라도 성능을 보존할 수 있는가?
• RQ2 전이 학습과 RES 모듈이 고해상도에서 소규모 기상 현상의 포착을 향상시키는가?
• RQ3 스텝별 LoRA 미세 조정이 장기 예측(6시간 예고)에서 오차 누적을 완화하는가?
• RQ4 고해상도에서 RMSE, ACC, 바이어스, 활동성에서 FengWu-GHR이 IFS-HRES 및 Pangu-weather와 어떻게 비교되는가?
• RQ5 며칠의 예고 시간에서 이상 기상 현상(폭염, 겨울 폭풍)을 신뢰할 수 있게 예측할 수 있는가?

주요 결과

• FengWu-GHR은 6–10일 예고에서 많은 대상에 대해 IFS-HRES보다 우수한 RMSE와 ACC를 달성한다.
• z500 RMSE는 5일에서 10일 예고까지 약 11.5%–21.7% 개선; 10일에서 850 hPa 온도 RMSE는 3.76에서 2.86으로 감소.
• FengWu-GHR은 기준 대비 많은 변수에서 바이어스 드리프트가 감소하고 활동성이 더 낮다.
• 2022년 18150개 스테이션의 스테이션 기반 평가에서 FengWu-GHR은 IFS-HRES 및 Pangu-weather보다 표면 온도 예보가 더 정확하며, 특히 예고 시간이 길수록 차이가 크다.
• 극한 기상 현상: FengWu-GHR은 폭염과 겨울 폭풍의 진화 포착에서 베이스라인보다 더 빠르고 정확한 예측을 보인다.
• IFS-HRES와 비교할 때, FengWu-GHR은 1주 예고에서 전 지구 평균 기온 궤적 오차를 약 18.0%–22.3% 감소시킨다.