[논문 리뷰] MS-nowcasting: Operational Precipitation Nowcasting with Convolutional LSTMs at Microsoft Weather

Sylwester Klocek, Haiyu Dong외 8명|arXiv (Cornell University)|2021. 11. 18.

Meteorological Phenomena and Simulations참고 문헌 17인용 수 17

한 줄 요약

MS-nowcasting는 대규모 공간 수용장역( LV )과 HRRR 물리기반 예측을 통합함으로써 운영용 강우 즉각예측을 향상시키는 ConvLSTM 기반 딥러닝 모델로, 6시간 예측 시간 동안 다양한 지표에서 광범위하게 20-25% 향상된 성능을 달성하였으며, 단일 GPU에서 효율적으로 실행된다.

ABSTRACT

We present the encoder-forecaster convolutional long short-term memory (LSTM) deep-learning model that powers Microsoft Weather's operational precipitation nowcasting product. This model takes as input a sequence of weather radar mosaics and deterministically predicts future radar reflectivity at lead times up to 6 hours. By stacking a large input receptive field along the feature dimension and conditioning the model's forecaster with predictions from the physics-based High Resolution Rapid Refresh (HRRR) model, we are able to outperform optical flow and HRRR baselines by 20-25% on multiple metrics averaged over all lead times.

연구 동기 및 목표

• Microsoft 날씨에서 운영용 고정확도·저지연 강우 즉각예측 시스템을 개발하기 위해.
• HRRR와 같은 전통적 NWP 모델의 단점인 스팟업 지연과 수시간 이상 예측 능력 제한을 극복하기 위해.
• 장거리 공간적 맥락과 물리기반 사전 지식을 통합함으로써 레이더 전용 딥러닝 방법을 향상시키기 위해.
• 최소한의 하드웨어 요구 조건으로 실시간·고주기 예측을 가능하게 하여 극단 기상에 대한 조기 경고를 지원하기 위해.
• 계산 효율적인 아키텍처를 사용하여 단기 강우 예측에서 최신 기술 수준의 성능을 달성하기 위해.

제안 방법

• 모델는 MRMS 데이터셋의 레이더 반사도 입력 시퀀스를 사용하는 3층 인코더-예측기 ConvLSTM 아키텍처를 채택한다.
• 새로운 대시야각(LV) 기법은 1280×1280 km 레이더 필드의 25개 공간 세그먼트를 25×256×256 특징 텐서로 스택하여 공간적 맥락을 증가시킨다.
• 예측기는 HRRR 레이더 반사도 예측에 조건부로 설정되어 물리적 일관성을 확보하고 강우 형성 및 소멸 예측을 향상시킨다.
• 안정적인 훈련을 위해 MAE와 MSE 손실의 조합, B-MAE 임계값, Adam 옵timizer와 확률적 가중치 평균화, 기울기 클리핑을 사용한다.
• 다중 GPU 효율성과 저지연 추론을 위해 훈련 및 추론을 DeepSpeed 프레임워크로 가속화한다.
• 2018년 MRMS 데이터에서 1,000만 개의 440분 시퀀스를 사용하여 훈련하며, 입력 80분, 목표 360분으로 설정하고, 2019년 테스트 데이터로 평가한다.

실험 결과

연구 질문

• RQ1 대규모 공간적 맥락과 물리기반 예측을 통합한 딥러닝 모델이 강우 전용 및 NWP 기준 모델보다 강우 즉각예측 성능에서 뛰어나게 되는가?
• RQ2 HRRR 출력으로 ConvLSTM 예측기를 조건부 처리하면 단기 강우 예측 정확도와 편향에 어떤 영향을 미치는가?
• RQ3 기본 공간 시야각을 초월해 입력 수용장역을 증가시키면 즉각예측 성능에 어떤 영향을 미치는가?
• RQ4 최소한의 하드웨어로 고정확도의 즉각예측 모델을 운영적으로 구현할 수 있으며, 8개 GPU에서 2분 미만 지연을 달성할 수 있는가?
• RQ5 다양한 손실 함수와 최적화 전략은 생성된 레이더 반사도 예측의 부드러움과 현실성에 어떤 영향을 미치는가?

주요 결과

• LV와 HRRR 조건부 처리를 모두 적용한 MS-nowcasting 모델은 첫 2시간 동안 평균 절대 오차(MAE) 3.23 dBZ를 기록하여, HRRR(5.54 dBZ)와 옵티컬 플로우(4.39 dBZ)를 포함한 모든 기준 모델을 능가했다.
• LV만 적용한 모델는 MAE를 3.28 dBZ로 감소시키고, 12 dBZ에서 F1 스코어를 0.808로 향상시켜 확장된 공간적 맥락의 가치를 입증했다.
• HRRR 조건부 처리를 추가하면 MAE는 3.55 dBZ로 개선되었지만 F1 스코어는 약간 감소(0.780)하여 편향과 임계값 탐지 간의 상충 관계를 보였다.
• 완전한 모델(LV + HRRR)은 MAE 3.23 dBZ, F1 0.813, MS-SSIM 0.6721, PSNR 24.03을 기록하여 모든 지표에서 모든 기준 모델을 능가하는 최고의 종합 성능을 달성했다.
• 레이더 데이터 가용성 이후 종단간 예측 생성 시간은 약 6분이며, 8개 GPU에서 추론 지연은 2분 이내였다.
• 높은 성능에도 불구하고, MAE+MSE 손실로 인해 예측 결과가 지나치게 부드럽게 나타나, GAN 기반 손실 함수 도입으로 향상 가능성이 있음을 시사했다.