[논문 리뷰] Deep Learning for Precipitation Nowcasting: A Benchmark and A New Model

Xingjian Shi, Zhihan Gao외 5명|arXiv (Cornell University)|2017. 06. 12.

Flood Risk Assessment and Management참고 문헌 20인용 수 616

한 줄 요약

논문은 Trajectory GRU (TrajGRU)를 소개하는데, 이는 강수 예보(nowcasting)를 위한 위치-변동 학습 가능한 순환 구조이며, 온라인/오프라인 평가 및 균형 손실 함수를 갖춘 대규모 HKO-7 벤치마크를 제공한다.

ABSTRACT

With the goal of making high-resolution forecasts of regional rainfall, precipitation nowcasting has become an important and fundamental technology underlying various public services ranging from rainstorm warnings to flight safety. Recently, the Convolutional LSTM (ConvLSTM) model has been shown to outperform traditional optical flow based methods for precipitation nowcasting, suggesting that deep learning models have a huge potential for solving the problem. However, the convolutional recurrence structure in ConvLSTM-based models is location-invariant while natural motion and transformation (e.g., rotation) are location-variant in general. Furthermore, since deep-learning-based precipitation nowcasting is a newly emerging area, clear evaluation protocols have not yet been established. To address these problems, we propose both a new model and a benchmark for precipitation nowcasting. Specifically, we go beyond ConvLSTM and propose the Trajectory GRU (TrajGRU) model that can actively learn the location-variant structure for recurrent connections. Besides, we provide a benchmark that includes a real-world large-scale dataset from the Hong Kong Observatory, a new training loss, and a comprehensive evaluation protocol to facilitate future research and gauge the state of the art.

연구 동기 및 목표

• 지역 강수의 정확하고 고해상도 nowcasting을 실제 공공 서비스에 적용 가능하도록 동기 부여.
• ConvLSTM의 한계를 위치-변동 순환 구조 학습으로 해결.
• 온라인/오프라인 평가 및 균형 손실 함수를 포함한 대규모 벤치마크(HKO-7) 제공.
• 비디오 예측에 적용 가능한 표준화된 평가 프로토콜 및 온라인 학습 적용 촉진.

제안 방법

• Trajectury GRU (TrajGRU)라는 서브네트워크가 학습된 광학 흐름으로 매개변수화된 국부적이면서 비격자(non-grid) 순환 연결의 학습된 집합을 출력하는 것을 제안.
• 고정된 상태 간 컨볼루션을 학습된 위치-변이 연결 패턴으로 대체하기 위해 이전 상태를 워프 기반 샘플링으로 처리.
• 다운샘플링/업샘플링이 포함된 인코딩-예측 네트워크 구조를 도입하여 전역 및 국지 시공간 정보를 분리하여 포착.
• 홍콩 레이더 CAPPI 이미지(2009–2015)로부터 HKO-7 데이터셋 개발, 노이즈 필터링 및 강수율 기반 전처리.
• 균형 MSE (B-MSE) 및 균형 MAE (B-MAE) 손실 정의를 통해 강수율 불균형 이슈를 해결.
• 오프라인 및 온라인 설정과 다중 강수 레이트 임계치를 포함한 평가 프로토콜 제공.

실험 결과

연구 질문

• RQ1 학습 가능한 위치-변이 순환 구조가 ConvGRU 및 다른 베이스라인보다 강수 예보를 향상시킬 수 있는가?
• RQ2 온라인 미세조정(온라인 학습)이 오프라인 학습에 비해 nowcasting 성능을 개선하는가?
• RQ3 균형 손실 함수(B-MSE, B-MAE)가 더 무거운 강수 임계치에서의 성능을 더 잘 반영하는가?
• RQ4 대규모 실제 데이터셋(HKO-7)에서 TrajGRU가 다중 강수 레이트 임계치에 대해 어떻게 수행하는가?

주요 결과

• TrajGRU는 MovingMNIST++에서 ConvGRU, 2D CNN, 3D CNN, DFN보다 적은 파라미터로 더 우수한 성능을 보였다.
• MovingMNIST++ 합성 데이터셋에서 13 링크를 가진 TrajGRU가 더 큰 고정 커널과 더 적은 파라미터를 가진 ConvGRU보다 더 나은 테스트 MSE를 달성했다.
• HKO-7 강수 예보 벤치마크에서 균형 손실을 사용한 딥러닝 모델이 광학 흐름 베이스라인을 능가했고, TrajGRU가 최상의 전반적 성능을 달성했다.
• 온라인 미세조정은 모델 전반의 nowcasting 점수를 오프라인 학습과 비교해 일관되게 향상시켰다.
• 균형 손실(B-MSE, B-MAE)은 일반 MSE/MAE보다 실제 기술력 점수(CSI, HSS)와 더 강한 상관관계를 보인다.
• TrajGRU는 회전 및 기타 위치-변이 운동 패턴에서 궤적 기반 순환 연결 학습이 강수장에 도움이 됨을 시연한다.