[논문 리뷰] A Multi-variable Stacked Long-Short Term Memory Network for Wind Speed Forecasting

Sisheng Liang, Long Nguyen외 1명|arXiv (Cornell University)|2018. 11. 24.

Energy Load and Power Forecasting인용 수 4

한 줄 요약

이 논문은 역사적 바람 속도, 바람 방향, 온도, 습도, 기압, mild점, 일사량을 활용하여 단기 바람 속도 예측을 향상시키는 다변수 스태킹된 장기 단기 기억망(MSLSTM)을 제안한다. 모델은 복잡한 시간적 의존성과 다중 척도 패턴을 포착하기 위해 스택된 LSTM 레이어를 사용하며, 텍사스 서부 지역에서 5분 단위 바람 속도 예측에서 R²가 0.99917에 이르는 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Precisely forecasting wind speed is essential for wind power producers and grid operators. However, this task is challenging due to the stochasticity of wind speed. To accurately predict short-term wind speed under uncertainties, this paper proposed a multi-variable stacked LSTMs model (MSLSTM). The proposed method utilizes multiple historical meteorological variables, such as wind speed, temperature, humidity, pressure, dew point and solar radiation to accurately predict wind speeds. The prediction performance is extensively assessed using real data collected in West Texas, USA. The experimental results show that the proposed MSLSTM can preferably capture and learn uncertainties while output competitive performance.

연구 동기 및 목표

• 바람의 확률적이고 간헐적인 성격으로 인해 정확한 단기 바람 속도 예측을 높이기 위한 과제 해결.
• 단지 바람 속도 외에도 다양한 기상 변수를 통합하여 예측 정확도 향상.
• 바람 속도 시계열에서 장기 및 단기 시간적 의존성을 포착할 수 있는 딥러닝 모델 개발.
• 스택된 LSTM 아키텍처에서 드롭아웃 정규화를 통해 바람 속도 예측의 과적합 완화.
• 실제 데이터에서 전통적인 통계 및 얕은 학습 방법에 비해 제안된 MSLSTM 모델의 우수성을 입증.

제안 방법

• 바람 속도, 바람 방향, 온도, 습도, 기압, 미점, 일사량을 포함한 다변수 입력 시퀀스 사용.
• 시간 패턴의 계층적 표현을 학습하기 위해 두 개의 스택된 LSTM 레이어를 사용하는 스택된 LSTM 아키텍처 활용.
• 기울기 소실 문제를 완화하고 수렴 속도를 향상시키기 위해 ReLU 활성화 함수 적용.
• 과적합 방지를 위해 스택된 LSTM 이후 5% 드롭아웃 레이어 통합.
• 스택된 LSTM 및 드롭아웃 레이어 이후에 밀도 레이어를 사용하여 최종 예측 출력.
• 모든 입력 특징에 대해 최소-최대 정규화를 적용하여 일관된 척도 확보 및 학습 안정성 향상.

실험 결과

연구 질문

• RQ1 다양한 기상 변수를 통합한 딥러닝 모델이 단변수 모델에 비해 단기 바람 속도 예측 정확도를 향상시킬 수 있는가?
• RQ2 여러 개의 LSTM 레이어를 스택함으로써 바람 속도 시퀀스에서 장기 및 단기 의존성을 포착하는 능력이 향상되는가?
• RQ3 제안된 MSLSTM 모델은 선형 회귀, LASSO, 릿지, 표준 LSTM과 같은 전통적 방법에 비해 성능에서 뛰어나게 되는가?
• RQ4 MSLSTM 모델은 실제 5분 단위 바람 속도 데이터에서 예측 오차(MSE, RMSE, MAE)를 어느 정도 감소시키고 R²를 높일 수 있는가?
• RQ5 기압 및 일사량과 같은 대기 변수의 포함이 다양한 기상 조건 하에서 예측의 강건성 향상에 기여하는가?

주요 결과

• MSLSTM 모델은 테스트 세트에서 R²가 0.99917에 도달하여 모든 기준 모델을 크게 앞서며 성능을 냈다.
• MSLSTM 모델은 테스트된 모든 모델 중에서 가장 낮은 MSE(0.00297), RMSE(0.05448), MAE(0.04275) 기록.
• 표준 LSTM에 비해 MSLSTM은 RMSE를 48% 이상, MAE를 58% 이상 감소시켜 스택된 LSTM 레이어의 유용성을 입증.
• 다양한 기상 조건에서도 모델 성능이 안정적이었으며, 다변수 입력 덕분에 예측 안정성이 향상됨.
• 학습 손실 및 테스트 손실 곡선이 유사하게 나타나 효과적인 일반화 및 최소한의 과적합을 나타냄.
• 모든 평가 지표에서 다중 선형 회귀, LASSO, 릿지, 표준 LSTM을 모두 압도하며, 복잡한 바람 역학을 포착하는 데서의 우수성을 확인함.