[논문 리뷰] Convolutional LSTM Network: A Machine Learning Approach for Precipitation Nowcasting

Xingjian Shi, Zhourong Chen외 4명|arXiv (Cornell University)|2015. 06. 13.

Meteorological Phenomena and Simulations참고 문헌 27인용 수 6,619

한 줄 요약

이 논문은 ConvLSTM을 도입하여 시공간 강우 예측을 위한 합성곱 확장 LSTM을 제시하고, 이를 RF- LSTM 및 ROVER보다 레이더 에코 데이터에서 우수함을 입증합니다.

ABSTRACT

The goal of precipitation nowcasting is to predict the future rainfall intensity in a local region over a relatively short period of time. Very few previous studies have examined this crucial and challenging weather forecasting problem from the machine learning perspective. In this paper, we formulate precipitation nowcasting as a spatiotemporal sequence forecasting problem in which both the input and the prediction target are spatiotemporal sequences. By extending the fully connected LSTM (FC-LSTM) to have convolutional structures in both the input-to-state and state-to-state transitions, we propose the convolutional LSTM (ConvLSTM) and use it to build an end-to-end trainable model for the precipitation nowcasting problem. Experiments show that our ConvLSTM network captures spatiotemporal correlations better and consistently outperforms FC-LSTM and the state-of-the-art operational ROVER algorithm for precipitation nowcasting.

연구 동기 및 목표

• 강우 예측을 시공간 시퀀스 예측 문제로 형식화한다.
• ConvLSTM을 개발하여 입력, 상태, 출력 전환에서 공간 구조를 보존한다.
• 멀티스텝 nowcasting을 위한 엔드-투-엔드 학습 가능한 인코딩-예측 네트워크를 만든다.
• 실제 레이더 에코 데이터와 합성 Moving-MNIST에서 시공간 모델링의 이점을 평가한다.

제안 방법

• FC-LSTM을 ConvLSTM으로 확장하여 입력-상태 간 및 상태-상태 간 전이를 합성곱으로 처리한다.
• 입력, 셀 출력, 은닉 상태 및 게이트를 공간 차원을 가지는 3D 텐서로 표현한다.
• 인코딩-예측 아키텍처로 ConvLSTM 층을 쌓아 다단계 예측을 생성한다.
• 결합된 예측 상태에서 1x1 합성곱을 사용해 최종 다프레임 예측을 생성한다.
• 시퀀스에 대해 역전파를 통한 학습으로 엔드-투-엔드로 학습한다.

실험 결과

연구 질문

• RQ1 ConvLSTM이 FC-LSTM에 비해 레이더 에코 데이터의 시공간 상관관계를 더 잘 포착할 수 있는가?
• RQ2 상태-상태 합성곱 커널을 늘리면 시공간 모션 패턴의 모델링이 개선되는가?
• RQ3 ConvLSTM의 성능은 강우 예측에서 ROVER 광류(flow 기반 방법) 대비 어떤가?
• RQ4 깊은 ConvLSTM 네트워크가 매개변수 수를 관리하면서 더 나은 예측을 제공하는가?
• RQ5 ConvLSTM은 도메인 외 및 다양한 모션 시나리오에서 견고한가?

주요 결과

모델	강우-평균제곱오차	CSI	FAR	POD	상관도
ConvLSTM(3x3)-3x3-64-3x3-64	1.420	0.577	0.195	0.660	0.908
Rover1	1.712	0.516	0.308	0.636	0.843
Rover2	1.684	0.522	0.301	0.642	0.850
Rover3	1.685	0.522	0.301	0.642	0.849
FC-LSTM-2000-2000	1.865	0.286	0.335	0.351	0.774

• ConvLSTM은 합성곱 계층의 시공간 상관관계 포착에서 FC-LSTM보다 우수하다(합성 데이터 및 레이더 데이터 모두에서).
• 상태-상태 합성곱 커널이 커질수록(예: 5x5, 9x9) 1x1보다 모션 패턴 모델링이 개선된다.
• 깊은 ConvLSTM 모델은 더 적은 매개변수로 더 나은 결과를 달성할 수 있다.
• ConvLSTM은 강우 예측 지표에서 ROVER 광류 기반 방법보다 우수하게 나타난다.
• 레이더 데이터 세트에서 ConvLSTM은 ROVER보다 CSI가 높고 오탐이 낮으며 강우- mse 및 상관도에서 더 나은 성능을 보였다.