[논문 리뷰] An Evolutionary Deep Learning Method for Short-term Wind Speed Prediction: A Case Study of the Lillgrund Offshore Wind Farm

Mehdi Neshat, Meysam Majidi Nezhad외 5명|arXiv (Cornell University)|2020. 02. 21.

Energy Load and Power Forecasting참고 문헌 40인용 수 7

한 줄 요약

이 논문은 단기 풍속 예측을 위한 장기 단기 기억망(LSTM) 네트워크의 초기화 조정을 위해 공분산 행렬 적응 진화 전략(CMA-ES)을 사용하는 하이브리드 진화적 딥 러닝 방법, CMAES-LSTM을 제안한다. 빌럼드 해상 풍력 발전소에서 수집한 실질적 데이터를 대상으로 평가한 결과, 10분 및 1시간 예측 수준에서 다섯 가지 기준 모델보다 뛰어난 정확도를 확보하였으며, 모든 다섯 가지 성능 지표에서 통계적으로 유의미한 향상이 이루어졌다.

ABSTRACT

Accurate short-term wind speed forecasting is essential for large-scale integration of wind power generation. However, the seasonal and stochastic characteristics of wind speed make forecasting a challenging task. This study uses a new hybrid evolutionary approach that uses a popular evolutionary search algorithm, CMA-ES, to tune the hyper-parameters of two Long short-term memory(LSTM) ANN models for wind prediction. The proposed hybrid approach is trained on data gathered from an offshore wind turbine installed in a Swedish wind farm located in the Baltic Sea. Two forecasting horizons including ten-minutes ahead (absolute short term) and one-hour ahead (short term) are considered in our experiments. Our experimental results indicate that the new approach is superior to five other applied machine learning models, i.e., polynomial neural network (PNN), feed-forward neural network (FNN), nonlinear autoregressive neural network (NAR) and adaptive neuro-fuzzy inference system (ANFIS), as measured by five performance criteria.

연구 동기 및 목표

• 바람의 확률적, 비정상적, 간헐적인 특성으로 인해 정확한 단기 풍속 예측을 수행하는 데 도전하는 문제를 해결한다.
• 모델 아키텍처와 초기화 조정을 동시에 최적화하여 정적 딥 러닝 모델을 초월한 예측 성능 향상을 도모한다.
• CMA-ES와 LSTM을 통합한 하이브리드 진화적 딥 러닝 프레임워크를 개발하여 적응형이고 고정밀도의 풍속 예측을 가능하게 한다.
• 실제 해상 풍력 데이터를 기반으로 제안된 방법을 검증하여 실용성과 강건성을 확보한다.
• 기존의 기계 학습 모델에 비해 CMAES-LSTM 모델이 단기 풍속 예측에서 뛰어난 성능을 보임을 입증한다.

제안 방법

• 장기 단기 기억(LSTM) 순환 신경망과 공분산 행렬 적응 진화 전략(CMA-ES)을 융합한 하이브리드 접근 방식을 사용하여 초기화 조정 및 아키텍처 최적화를 수행한다.
• 학습률, 배치 크기, 옵티마이저 유형(SGD, Adam, RMSProp), 첫 번째 LSTM 레이어의 뉴런 수와 같은 핵심 LSTM 초기화 조정을 최적화하기 위해 CMA-ES를 전역 히우리스틱 검색 알고리즘으로 활용한다.
• 두 단계의 튜닝 프로세스를 적용: 초기 그리드 서치 후 CMA-ES를 통한 정밀 튜닝, 연장된 학습 실행 시간을 방지하기 위해 페널티 항목을 통합한다.
• 발트 해에 위치한 빌럼드 해상 풍력 발전소에서 수집한 역사적 풍속 데이터를 기반으로 모델을 학습하고 평가한다.
• 10분 및 60분 앞서 풍속을 예측하는 다중 수준 평가 프레임워크를 도입한다.
• 모델 정확도와 안정성을 종합적으로 평가하기 위해 RMSE, MAE, MAPE, R², NSE의 다섯 가지 표준 지표를 통합하여 성능 평가를 수행한다.

실험 결과

연구 질문

• RQ1 CMA-ES는 단기 풍속 예측 정확도 향상을 위해 LSTM의 초기화 조정을 효과적으로 최적화할 수 있는가?
• RQ2 10분 및 1시간 예측 수준에서 CMAES-LSTM 모델은 정적 LSTM 및 기타 기계 학습 모델(PNN, FNN, NAR, ANFIS)에 비해 어떻게 성능을 냈는가?
• RQ3 하이브리드 진화적 접근 방식은 다수의 평가 지표에서 예측 성능 향상에 통계적으로 유의미한 기여를 하는가?
• RQ4 CMA-ES 최적화 과정에 실행 시간 페널티를 포함시키는 것이 정확도를 희생시키지 않으면서도 실용적 효율성을 얼마나 향상시키는가?
• RQ5 실제 해상 풍력 데이터의 비정상적이고 확률적인 특성 하에서 제안된 방법은 더 안정적이고 강건한 예측을 달성할 수 있는가?

주요 결과

• CMAES-LSTM 모델은 10분 예측에서 RMSE가 2.46 m/s, 1시간 예측에서도 2.46 m/s를 기록하여 다섯 가지 기준 모델 전부를 앞서는 최저 수준의 오차를 확보하였다.
• 10분 예측에서 CMAES-LSTM 모델은 MAE가 1.57 m/s로 모든 모델 중에서 가장 낮았으며, 다음으로 우수한 성능을 보인 LSTM(1.58 m/s)과 비교해도 유의미한 우월성을 보였다.
• 10분 예측에서 CMAES-LSTM 모델은 R²가 0.930, 1시간 예측에서는 0.928를 기록하여 강력한 모델 적합도와 예측 능력을 입증하였다.
• 모델은 10분 예측에서 NSE(Nash-Sutcliffe Efficiency)가 0.928, 1시간 예측에서는 0.925를 기록하여 뛰어난 예측 정확도와 안정성을 확인하였다.
• 통계 분석 결과, CMAES-LSTM과 다른 모델 간의 성능 차이는 모든 다섯 가지 평가 지표에서 통계적으로 유의미했다.
• CMA-ES 최적화 과정은 학습 실행 시간의 변동성을 효과적으로 줄였으며, 실행 간 표준편차가 단지 0.365시간(21.9분)에 불과하여 강건하고 효율적인 수렴을 보였다.