[논문 리뷰] Improving medium-range ensemble weather forecasts with hierarchical ensemble transformers

Zied Ben-Bouallegue, Jonathan A. Weyn외 4명|arXiv (Cornell University)|2023. 03. 30.

Meteorological Phenomena and Simulations인용 수 9

한 줄 요약

PoET는 계층 변환기를 사용하여 앙상블 예측을 후처리하고 각 멤버를 보정하여 전 세계적으로 2m 기온 기술지수를 최대 약 20% 향상시키고 강수 예측은 약 2% 개선하며 MBM 벤치마크를 능가하고 모델 사이클과 데이터셋 전반에 걸친 강력한 일반화를 보임.

ABSTRACT

Statistical post-processing of global ensemble weather forecasts is revisited by leveraging recent developments in machine learning. Verification of past forecasts is exploited to learn systematic deficiencies of numerical weather predictions in order to boost post-processed forecast performance. Here, we introduce PoET, a post-processing approach based on hierarchical transformers. PoET has 2 major characteristics: 1) the post-processing is applied directly to the ensemble members rather than to a predictive distribution or a functional of it, and 2) the method is ensemble-size agnostic in the sense that the number of ensemble members in training and inference mode can differ. The PoET output is a set of calibrated members that has the same size as the original ensemble but with improved reliability. Performance assessments show that PoET can bring up to 20% improvement in skill globally for 2m temperature and 2% for precipitation forecasts and outperforms the simpler statistical member-by-member method, used here as a competitive benchmark. PoET is also applied to the ENS10 benchmark dataset for ensemble post-processing and provides better results when compared to other deep learning solutions that are evaluated for most parameters. Furthermore, because each ensemble member is calibrated separately, downstream applications should directly benefit from the improvement made on the ensemble forecast with post-processing.

연구 동기 및 목표

• NWP 앙상블의 체계적 예측 오차를 수정하기 위한 통계적 후처리를 동기화한다.
• 앙상블 멤버에서 직접 작동하는 트랜스포머 기반 후처리 방법을 개발한다.
• 방법이 앙상블 크기에 독립적이고 서로 다른 공간 해상도에 확장 가능하도록 보장한다.
• PoET를 MBM 및 ENS-10과 벤치마킹하여 변수 간 상대적 성능을 평가한다.

제안 방법

• 계층 트랜스포머를 기반으로 한 후처리 접근법인 PoET를 도입한다.
• 앙상블 차원을 따라 트랜스포머를 적용하여 각 앙상블 멤버를 재보정한다.
• 메모리 관리 및 고해상도 글로벌 그리드를 지원하기 위해 PoET를 U-net 구조에 내재한다.
• 레이어 노멀라이제이션이 포함된 잔차 트랜스포머 블록을 사용해 예측 오차를 보정한다.
• 리드 타임이 최대 96시간인 ECMWF 재예보 및 ERA5 재분석으로 학습하고 2021 운영 데이터로 시험한다.
• PoET를 MBM과 비교하고 2m 기온 및 강수에서의 성능을 평가하며 손실 함수를 조정한다(강수에 대해 kCRPS 사용).

Figure 1: Schematic of the transformer U-net architecture of PoET. The inset on the lower right is adapted from Finn ( 2021 ) , used with permission.

실험 결과

연구 질문

• RQ1 PoET가 원시 앙상블에 비해 전 세계 2m 기온 및 강수 예측의 신뢰도와 기술지수를 의미 있게 개선할 수 있는가?
• RQ2 PoET가 96시간까지의 리드 타임에서 MBM 통계적 후처리 방법과 어떻게 비교되는가?
• RQ3 PoET가 앙상블 크기와 무관하게 학습 및 추론 앙상블의 차이가 있어도 성능을 유지하는가?
• RQ4 PoET가 서로 다른 모델 사이클과 ENS-10 벤치마크 데이터셋에 대해 일반화되는가?
• RQ5 PoET의 개선이 공간적 패턴은 어떤가, 지역별 저하가 있는가?

주요 결과

• PoET는 원시 앙상블에 비해 2m 기온에서 최대 약 20%, 강수에서 약 2%의 글로벌 스킬 향상을 이끈다.
• PoET는 일반적으로 2m 기온에서 리드 타임과 영역에 걸쳐 MBM보다 우수한 성능을 보인다.
• ENS-10에서 PoET는 이전 벤치마크 대비 상당한 향상을 제공하며 특히 2m 기온에서 두드러진다.
• 강수의 경우 이득이 작고 지역적으로 가변성이 있으며 열대 지역에서 더 나은 성능을 보인다.
• 모델 학습 및 추론 사이의 앙상블 크기가 다르더라도 앙상블 크기 비의존성을 확인할 수 있다.
• PoET를 통해 각 앙상블 멤버를 개별 보정하면 ERA5와의 정렬이 더 잘 되며 다운스트림 애플리케이션 지원이 강화된다.

Figure 2: Relative changes by PoET to a single date of the 2m temperature forecast at day 2, valid on 6 January 2021. The left column shows the first 3 raw ensemble members. The first row shows the first 3 PoET-corrected ensemble members. Other entries show the differences between raw and PoET-corre