[논문 리뷰] FourCastNet: A Global Data-driven High-resolution Weather Model using Adaptive Fourier Neural Operators

Jaideep Pathak, Shashank Subramanian외 11명|arXiv (Cornell University)|2022. 02. 22.

Meteorological Phenomena and Simulations인용 수 441

한 줄 요약

FourCastNet은 대규모에서 짧은 예보시간에 대해 ECMWF IFS와 일치하고, 작은 규모 변수에서 더 우수하며, 초고속 대규모 앙상블을 가능케 하는 0.25° 해상도의 전 세계 데이터 기반 기상 모델이다.

ABSTRACT

FourCastNet, short for Fourier Forecasting Neural Network, is a global data-driven weather forecasting model that provides accurate short to medium-range global predictions at $0.25^{\circ}$ resolution. FourCastNet accurately forecasts high-resolution, fast-timescale variables such as the surface wind speed, precipitation, and atmospheric water vapor. It has important implications for planning wind energy resources, predicting extreme weather events such as tropical cyclones, extra-tropical cyclones, and atmospheric rivers. FourCastNet matches the forecasting accuracy of the ECMWF Integrated Forecasting System (IFS), a state-of-the-art Numerical Weather Prediction (NWP) model, at short lead times for large-scale variables, while outperforming IFS for variables with complex fine-scale structure, including precipitation. FourCastNet generates a week-long forecast in less than 2 seconds, orders of magnitude faster than IFS. The speed of FourCastNet enables the creation of rapid and inexpensive large-ensemble forecasts with thousands of ensemble-members for improving probabilistic forecasting. We discuss how data-driven deep learning models such as FourCastNet are a valuable addition to the meteorology toolkit to aid and augment NWP models.

연구 동기 및 목표

• 0.25° 해상도에서 고해상도 데이터 기반 글로벌 기상 예측 모델을 개발한다.
• 주요 변수(지표면 풍향, 강수량)를 짧은 예보시간에 대해 최첨단 수치예보와 견줄 만한 정확도로 예보한다.
• 대규모 앙상블 생성을 가능하게 하는 매우 빠른 예보를 생산하는 능력을 입증한다.
• 모델을 ECMWF IFS와 비교 평가하고 소규모 특징 및 극한 현상의 성능을 분석한다.
• 확률 예측을 위한 전통적인 수치예보 방법을 보완하는 하이브리드 DL 도구 키트를 제안한다.

제안 방법

• 0.25° 격자에서 해상도 불변 학습을 가능하게 하기 위해 Adaptive Fourier Neural Operator (AFNO)와 비전 트랜스포머 백본을 사용한다.
• 721×1440 격자에서 20개의 예측 대기 변수로 표현하고 선행 학습(pre-training) 단계 뒤에 미세 조정(fine-tuning)을 거쳐 X(k) → X(k+1) 를 매핑하도록 훈련한다(두 단계).
• 백본 출력으로부터 총 강수량(TP)을 예측하기 위해 AFNO 기반의 별도 진단 모델을 도입하고 희박성 처리를 위한 로그 변환을 적용한다.
• ERA5 재분석 데이터를 사용해(훈련: 1979–2015, 검증: 2016–2017, 테스트: 2018+) 6시간 간격으로 훈련한다.
• 여러 단계에 걸친 자기회귀 추론을 수행해 주 단위 예보를 생성하고 2018년 TIGGE IFS 예보와 비교 평가한다.
• 64대 Nvidia A100 GPU에서 엔드투엔드 학습을 수행한다(~16시간).
• 에너지 효율: 학습 에너지는 50개의 앙상블에 대한 IFS 예측 10일에 대략 해당하고, 추론은 IFS보다 ~12,000× 더 적은 에너지를 소비한다.

실험 결과

연구 질문

• RQ1 고해상도(0.25°) 데이터 기반 모델이 짧은 예보 시간에 전 세계의 지표면 바람과 강수량을 예측할 수 있으며 정확도가 최첨단 수치예보(NWP)와 동등하거나 더 나을 수 있는가?
• RQ2 비트(backbone ViT)와 함께 Fourier 기반 신경 연산자가 고해상도에서 소규모 특징 및 극한 현상(예: 열대성 사이클론)을 어느 정도까지 포착할 수 있는가?
• RQ3 짧은-중간 예보에 대해 전통적인 NWP 모델에 비해 FourCastNet의 속도와 에너지 효율은 어떠한가?
• RQ4 전통적 앙상블과 비교했을 때 FourCastNet 예측의 대규모 앙상블이 확률 예측 및 극한 현상 예측을 개선하는가?
• RQ5 희박하고 매개변수화된 특성을 가진 강수량을 백본 출력으로 사용한 별도 AFNO 기반 모델로 효과적으로 진단할 수 있는가?

주요 결과

• FourCastNet은 많은 변수에서 약 3일 정도까지 정확한 예보를 달성하고, 큰 규모에서 IFS에 근접하며 강수와 같은 소규모 특징에서 IFS를 능가한다.
• 모델은 1주일 예보를 2초 이내에 제공하고 비용이 저렴한 매우 큰 앙상블(예: 1,000개 멤버)을 가능하게 한다.
• 해상도는 기존의 DL 기반 글로벌 기상 모델보다 8배 높아 열대저기압과 대기강류의 표현이 개선된다.
• FourCastNet은 짧은 예보 시간에서 RMSE와 이상상관(ACC)에서 IFS와 일치합니다; 3일이 지나면 성능 차이가 생기지만 여전히 많은 변수에서 경쟁력을 유지한다.
• 허리케인 마이클의 100멤버 앙상블 예시는 빠른 앙상블 기반 허리케인 예측에 대한 FourCastNet의 가능성을 보여준다.