[논문 리뷰] Precipitation Nowcasting with Star-Bridge Networks

Yuan Cao, Qiuying Li외 5명|arXiv (Cornell University)|2019. 07. 18.

Precipitation Measurement and Analysis참고 문헌 9인용 수 19

한 줄 요약

이 논문은 단기 강우 강도 예측을 향상시키기 위해 다중 컬럼 아키텍처와 별 모양의 정보 브리지로 구성된 새로운 순환 신경망인 StarBriNet을 제안한다. 서로 다른 강우 강도와 지속 시간을 별도로 처리하고, 중요한 성공 지수(CSI)를 최적화하기 위해 다중 시그모이드 손실을 사용하며, 계층 간 기울기 흐름을 향상시킴으로써, 동중국 레이더 어림 데이터셋에서 기존 방법들을 능가하는 최신 기술 수준의 성능을 달성한다. CSI는 64.4%이며, MSE는 6.18이다.

ABSTRACT

Precipitation nowcasting, which aims to precisely predict the short-term rainfall intensity of a local region, is gaining increasing attention in the artificial intelligence community. Existing deep learning-based algorithms use a single network to process various rainfall intensities together, compromising the predictive accuracy. Therefore, this paper proposes a novel recurrent neural network (RNN) based star-bridge network (StarBriNet) for precipitation nowcasting. The novelty of this work lies in the following three aspects. First, the proposed network comprises multiple sub-networks to deal with different rainfall intensities and duration separately, which can significantly improve the model performance. Second, we propose a star-shaped information bridge to enhance the information flow across RNN layers. Third, we introduce a multi-sigmoid loss function to take the precipitation nowcasting criterion into account. Experimental results demonstrate superior performance for precipitation nowcasting over existing algorithms, including the state-of-the-art one, on a natural radar echo dataset.

연구 동기 및 목표

• 모든 강우 강도를 동일하게 취급하는 기존 딥 러닝 모델의 한계를 해결하여 예측 정확도를 저하시키는 문제를 해결한다.
• 별 모양의 정보 브리지 도입을 통해 강우 예측에서 RNN 계층 간의 정보 흐름을 향상시킨다.
• 중간에서 강한 강우 예측을 우선시하는 기상 기준 인식 손실 함수를 사용하여 모델 훈련을 최적화한다.
• 다중 컬럼 인코더 구조를 통해 서로 다른 강우 강도와 지속 시간을 모델링하여 단기 강우 강도 예측 성능을 향상시킨다.

제안 방법

• 다양한 강우 강도와 지속 시간을 별도로 처리하기 위해 다중 컬럼 인코더 아키텍처를 사용하여 다양한 강우 패턴에 대한 예측 정확도를 향상시킨다.
• 다중 RNN 계층 간 기울기 및 특징 흐름을 향상시키기 위해 별 모양의 정보 브리지 구조를 도입하여 장기 의존성 모델링을 향상시킨다.
• 기상학에서 사용되는 중요한 성공 지수(CSI) 지표와 일치시키기 위해 거짓 경보와 누락 예측을 최소화하는 데 중점을 두어 다중 시그모이드 손실 함수를 설계한다.
• StarBriLSTM 유닛을 사용한 2층 인코딩-예측 구조를 사용하며, 각 유닛은 (3,3) 커널 크기를 가지며, 특징 다운샘플링에는 스트라이드 2의 2D 컨볼루션을, 업샘플링에는 역방향 컨볼루션을 적용한다.
• 초기에는 패치 리사이징을 사용하지만, 큰 커널 컨볼루션과 동일한 효과를 피하기 위해 대체로 다운샘플링/업샘플링 전략으로 교체한다.
• 기본 학습률 0.002, 배치 크기 32, 20,000개의 훈련 반복을 사용하여 4개의 NVIDIA GTX 1080Ti GPU에서 ADAM 옵timizer를 사용해 모델을 훈련시킨다.

실험 결과

연구 질문

• RQ1 다양한 강우 강도와 지속 시간을 별도로 처리하는 다중 컬럼 RNN 아키텍처가 예측 정확도를 향상시킬 수 있는가?
• RQ2 별 모양의 정보 브리지가 강우 예측에서 RNN 계층 간 기울기 및 특징 흐름을 현저히 향상시키는가?
• RQ3 CSI 성능을 강조하는 다중 시그모이드 손실 함수가 기존의 표준 회귀 손실 함수보다 강우 예측에서 더 나은 성능을 내는가?
• RQ4 실제 레이더 어림 데이터에서 제안된 StarBriNet은 PredRNN++ 및 ConvLSTM과 같은 최신 기술 수준의 모델보다 어떻게 비교되는가?

주요 결과

• StarBriNet은 동중국 레이더 어림 데이터셋에서 기존 최신 기술 수준의 방법(예: PredRNN)의 63.1%보다 뚜렷하게 높은 CSI 64.4%를 달성했다.
• MSE는 6.18을 기록하여, 기준 모델인 ConvLSTM(MSE: 6.31)과 PredRNN(MSE: 7.03)보다 개선된 회귀 정확도를 보였다.
• 절단 실험을 통해 다중 컬럼 인코더, 별 모양의 브리지, 다중 시그모이드 손실을 모두 조합할 경우 최고의 성능을 내었으며, 모든 구성 요소를 사용했을 때 CSI가 1.7%p 향상되었다.
• 다중 시그모이드 손실은 거짓 경보와 누락을 줄이는 데 중점을 두어 운영 기상 예측에 매우 중요한 요소인 CSI 향상에 기여했다.
• 시각화 결과, 기존의 뿌연 현상에 취약한 기준 모델 대비 StarBriNet은 특히 중간 강우에 대해 더 정확하고 공간적으로 일관된 강우 영역을 생성했다.
• 다중 시그모이드 손실의 스케일 요소를 점진적으로 증가시킨 실험 결과, 높은 값은 초기 훈련 감도를 향상시켰지만 안정성은 감소시켰으며, 최적의 성능은 중간 값에서 달성되었다.