[논문 리뷰] AIFS -- ECMWF's data-driven forecasting system

Simon Lang, Mihai Alexe외 14명|arXiv (Cornell University)|2024. 06. 03.

Forecasting Techniques and Applications인용 수 63

한 줄 요약

AIFS는 ERA5와 ECMWF 분석에 대해 학습된 그래프 신경망 인코더-디코더 및 슬라이딩 윈도우 트랜스포머 프로세서를 사용하는 ECMWF의 데이터 기반 기상 예보 시스템으로, 물리 기반 NWP 모델과 함께 하루에 네 차례 실행되며 IFS 및 ERA5 대비 상층 대기, 표면 및 열대저기 예보에서 경쟁력 있는 예보 기술을 보여준다.

ABSTRACT

Machine learning-based weather forecasting models have quickly emerged as a promising methodology for accurate medium-range global weather forecasting. Here, we introduce the Artificial Intelligence Forecasting System (AIFS), a data driven forecast model developed by the European Centre for Medium-Range Weather Forecasts (ECMWF). AIFS is based on a graph neural network (GNN) encoder and decoder, and a sliding window transformer processor, and is trained on ECMWF's ERA5 re-analysis and ECMWF's operational numerical weather prediction (NWP) analyses. It has a flexible and modular design and supports several levels of parallelism to enable training on high-resolution input data. AIFS forecast skill is assessed by comparing its forecasts to NWP analyses and direct observational data. We show that AIFS produces highly skilled forecasts for upper-air variables, surface weather parameters and tropical cyclone tracks. AIFS is run four times daily alongside ECMWF's physics-based NWP model and forecasts are available to the public under ECMWF's open data policy.

연구 동기 및 목표

• 데이터 기반의 운영 기상 예보 시스템을 물리 기반 NWP의 대안 또는 보완으로 개발하려는 동기를 제시한다.
• AIFS의 아키텍처와 학습 체계(데이터 소스, 그래프 신경망, 트랜스포머 기반 처리)를 기술한다.
• AIFS의 예보 기술을 ECMWF IFS 분석 및 ERA5 관측과 비교하여 상층 대기 및 표면 변수 및 열대저기에서의 성능을 평가한다.
• 고해상도 데이터 처리 가능성과 잠재적 확률적 앙상블 능력을 가능하게 하는 확장성 및 병렬성의 확인.

제안 방법

• ERA5 입력을 컷오프 반경을 통해 프로세서 격자로 매핑하는 인코더-프로세서-디코더 설계, 이후 잠재 상태를 ERA5 격자로 다시 투영한다.
• 인코더/디코더를 위한 다중 헤드 그래프 트랜스포머 컨볼루션 GNN 블록과, 프로세서를 위한 시프트 윈도우 주의가 적용된 프리-노멀 트랜스포머.
• 약 1° 해상도에 해당하는 옥타헤드럴 축소 가우시안 격자(N320)를 기반으로 한 프로세서 격자; 각 노드와 엣지에 8개의 학습 가능한 특성 추가.
• 고해상도 데이터에서의 학습 및 혼합 정밀도 학습을 가능하게 하는 활성화 점검점, 시퀀스/텐서 병렬성.
• ERA5에서의 사전 학습, 점진적 롤아웃 학습 및 운영적 IFS 분석에서의 미세 조정, 엔드-투-엔드 학습은 자동회귀 롤아웃으로 수행되며 손실은 영역 가중 MSE로 각 변수의 스케일링을 적용한다.

실험 결과

연구 질문

• RQ1 AIFS의 데이터 기반 예보 품질이 IFS 분석 및 ERA5 관측과 비교하여 최대 10일의 예측 시간에서 어떻게 달라지는가?
• RQ2 확장 가능하고 고해상도 데이터 기반 예측을 가능하게 하는 아키텍처 선택(GNN 인코더/디코더, 트랜스포머 프로세서, 축소 가우시안 그리드)은 무엇인가?
• RQ3 데이터 병렬 및 텐서 병렬 학습 체계가 대규모 앙상블 및 운영형 워크플로우 내 확률적 예측을 지원할 수 있는가?
• RQ4 상층 대기 대비 표면장 및 열대저기 추적에서 AIFS의 강점과 한계는 무엇인가?
• RQ5 손실 스케일링, 미세조정 전략, 확률적 목표 등에 어떤 개선이 예측 기술을 더 향상시킬 수 있는가?

주요 결과

• AIFS는 상층 대기 및 표면 변수, 열대저기 궤적에 대해 높은 예측 기술을 제공하며, 여러 지표에서 IFS 대비 ACC 개선이 경쟁력 있게 나타난다.
• 예측 기술은 더 긴 예측시간에서 IFS 대비 유의미한 이점을 보이며, 분석 및 기상류 관측값과 비교할 때 대류권 예측에서 약 100 hPa까지의 상당한 개선이 나타난다.
• 표면 예측(예: 2 m 기온, 10 m 바람)은 분석 및 관측값과 비교할 때 IFS 대비 일관된 개선을 보인다.
• 훈련 중 사용된 영역 가중 MSE 손실로 인해 예보가 시간이 지남에 따라 다소 매끄럽게 나타나는 경향이 있으며, 이를 완화하기 위한 확률적 목표가 탐색되고 있다.
• GraphCast와 비교했을 때 AIFS의 성능은 비슷하며, 시간에 따라 다르고 학습/미세조정 방법에 따라 차이가 나타난다.
• 열대저기 궤적 예측은 IFS보다 AIFS가 현저히 더 나은 편이며, 이는 주로 열대저기 전파 속도의 느린 편향 감소 때문이지만, IFS에 비해 TC 강도 예측은 과소평가될 수 있다.