[논문 리뷰] Purely data-driven medium-range weather forecasting achieves comparable skill to physical models at similar resolution

Stephan Rasp, Nils Thuerey|arXiv (Cornell University)|2020. 08. 19.

Meteorological Phenomena and Simulations참고 문헌 13인용 수 14

한 줄 요약

이 연구는 대규모 순수 데이터 기반 딥러닝 모델이 유사한 해상도에서 물리 모델과 비교할 만한 중기 날씨 예측 능력을 달성할 수 있음을 보여준다. 기후 모델 출력으로 사전 훈련하고 재분석 데이터로 미세조정함으로써, 모델은 명시적인 물리 방정식 없이도 물리적으로 타당한 대기역학을 학습한다.

ABSTRACT

Numerical weather prediction has traditionally been based on physical models of the atmosphere. Recently, however, the rise of deep learning has created increased interest in purely data-driven medium-range weather forecasting with first studies exploring the feasibility of such an approach. Here, we train a significantly larger model than in previous studies to predict geopotential, temperature and precipitation up to 5 days ahead and achieve comparable skill to a physical model run at similar horizontal resolution. Crucially, we pretrain our models on historical climate model output before fine-tuning them on the reanalysis data. We also analyze how the neural network creates its predictions and find that, with some exceptions, it is compatible with physical reasoning. Our results indicate that, given enough training data, data-driven models can compete with physical models. At the same time, there is likely not enough data to scale this approach to the resolutions of current operational models.

연구 동기 및 목표

• 순수 데이터 기반 모델이 유사한 해상도에서 물리 모델과 비교할 만한 예측 능력을 달성할 수 있는지 조사하기.
• 재분석 데이터로 미세조정하기 전에 기후 모델 출력으로 사전 훈련하는 것이 미치는 영향 평가하기.
• 신경망 내부에서 학습된 표현이 물리적 대기역학과 얼마나 일치하는지 평가하기.
• 해상도와 데이터 가용성 측면에서 데이터 기반 예측의 확장성 한계를 규명하기.

제안 방법

• 대규모 딥러닝 모델이 사전 훈련을 위해 역학적 기후 모델 출력 기록을 종합적으로 활용한다.
• 실제 대기 조건에서의 정확도를 향상시키기 위해 재분석 데이터로 모델을 미세조정한다.
• 모델은 과거 대기 상태 데이터만을 입력으로 사용하여 최대 5일 후의 기하학적 위치, 온도, 강수량을 예측한다.
• 모델 아키텍처는 대규모 대기 패턴의 시공간적 의존성을 포착하도록 설계되었다.
• 예측의 물리적 일관성은 해석 가능성 분석과 알려진 대기역학과의 비교를 통해 평가된다.
• 모델 성능은 동일한 수평 해상도에서 물리 모델과의 비교를 통해 벤치마킹된다.

실험 결과

연구 질문

• RQ1 순수 데이터 기반 모델이 유사한 해상도에서 물리 모델과 비교할 만한 예측 능력을 달성할 수 있는가?
• RQ2 기후 모델 출력으로 사전 훈련하면 재분석 데이터에서의 일반화 및 예측 정확도가 향상되는가?
• RQ3 신경망의 내부 표현과 예측 메커니즘이 기상학적 물리적 추론과 얼마나 호환되는가?
• RQ4 데이터 기반 모델을 운영 수준의 예측에까지 확장하는 데 있어 데이터와 해상도의 제약 요소는 무엇인가?

주요 결과

• 데이터 기반 모델은 동일한 수평 해상도에서 물리 모델과 비교할 만한 예측 능력을 달성한다.
• 기후 모델 출력으로 사전 훈련하면 무작위 초기화로 훈련하는 것보다 모델 성능이 크게 향상된다.
• 모델의 예측 메커니즘은 특히 대규모 순환 패턴에서 물리적 대기역학과 강한 호환성을 보인다.
• 중간 해상도에서는 높은 예측 능력을 보였지만, 현재 운영용 물리 모델에서 사용하는 해상도로의 확장에는 충분한 훈련 데이터 부족으로 인해 성능 향상이 이루어지지 않았다.
• 결과적으로 충분한 훈련 데이터가 확보될 경우 데이터 기반 모델이 물리 모델의 성능을 재현할 수 있음을 시사한다.