[논문 리뷰] Deep Belief Networks Based Feature Generation and Regression for Predicting Wind Power

Asifullah Khan, Aneela Zameer외 2명|arXiv (Cornell University)|2018. 07. 31.

Energy Load and Power Forecasting참고 문헌 32인용 수 11

한 줄 요약

이 논문은 기상 데이터에서 계층적 특징을 추출하기 위해 제한된 볼츠만 기계(Restricted Boltzmann Machines, RBMs)의 비지도 사전 훈련을 활용하는 딥 벨리프 네트워크(DBN)-기반 바람 풍력 예측 모델을 제안한다. 이후 단기 바람 풍력 예측을 위해 회귀층을 적용한다. DBN-WP 모델은 평균 RMSE 0.124, MAE 0.083, SDE 0.122를 기록하여 하이브리드 및 복잡한 학습 기법들에 비해 다양한 풍력 발전소 위치에서 뛰어난 일반화 능력과 안정성을 보여준다.

ABSTRACT

Wind energy forecasting helps to manage power production, and hence, reduces energy cost. Deep Neural Networks (DNN) mimics hierarchical learning in the human brain and thus possesses hierarchical, distributed, and multi-task learning capabilities. Based on aforementioned characteristics, we report Deep Belief Network (DBN) based forecast engine for wind power prediction because of its good generalization and unsupervised pre-training attributes. The proposed DBN-WP forecast engine, which exhibits stochastic feature generation capabilities and is composed of multiple Restricted Boltzmann Machines, generates suitable features for wind power prediction using atmospheric properties as input. DBN-WP, due to its unsupervised pre-training of RBM layers and generalization capabilities, is able to learn the fluctuations in the meteorological properties and thus is able to perform effective mapping of the wind power. In the deep network, a regression layer is appended at the end to predict sort-term wind power. It is experimentally shown that the deep learning and unsupervised pre-training capabilities of DBN based model has comparable and in some cases better results than hybrid and complex learning techniques proposed for wind power prediction. The proposed prediction system based on DBN, achieves mean values of RMSE, MAE and SDE as 0.124, 0.083 and 0.122, respectively. Statistical analysis of several independent executions of the proposed DBN-WP wind power prediction system demonstrates the stability of the system. The proposed DBN-WP architecture is easy to implement and offers generalization as regards the change in location of the wind farm is concerned.

연구 동기 및 목표

• 기상 데이터의 복잡한 비선형 관계를 포착하기 위해 딥 러닝을 활용하여 바람 풍력 예측 정확도를 향상시키기.
• 바람 풍력 예측에서 레이블이 부족한 데이터 문제를 RBMs를 사용한 비지도 사전 훈련으로 해결하기.
• 다양한 풍력 발전소 사이트에서 성능을 유지하는 일반화 가능하고 위치에 강건한 예측 모델 개발하기.
• DBN 기반 특징 생성 및 회귀 기법의 효과성을 기존 하이브리드 및 복잡한 학습 기법들과 비교 평가하기.

제안 방법

• 모델은 대기 입력 특징(바람 속도, 온도, 기압 등)으로부터 계층적 표현을 학습하기 위해 제한된 볼츠만 기계(RBMs)의 스택을 사용하여 비지도 사전 훈련을 수행한다.
• 사전 훈련 후, DBN은 역전파를 사용하여 미세조정되어 학습된 특징들을 회귀에 적응시킨다.
• 깊은 아키텍처의 최종에 회귀층을 추가하여 단기 바람 풍력 출력을 예측한다.
• 모델은 기상 변수의 변동성을 포착하기 위해 확률적 특징 생성을 사용하여 다양한 조건에서의 일반화 능력을 향상시킨다.
• 전체 아키텍처는 엔드 투 엔드로 훈련되어 깊이 있는 계층적 학습과 강력한 특징 추상화의 이점을 결합한다.

실험 결과

연구 질문

• RQ1 DBN 기반 모델은 원시 대기 데이터에서 바람 풍력 예측을 위한 의미 있는 특징을 효과적으로 추출할 수 있는가?
• RQ2 DBN-WP 모델의 성능은 정확도와 안정성 측면에서 하이브리드 및 복잡한 학습 기법들과 비교해 볼 때 어떻게 되는가?
• RQ3 RBM를 사용한 비지도 사전 훈련이 다양한 풍력 발전소 위치 간 일반화 능력을 얼마나 향상시키는가?
• RQ4 제안된 DBN-WP 모델은 다수의 독립 실행에서 일관된 성능을 유지하는가?

주요 결과

• DBN-WP 모델은 여러 테스트 실행 동안 평균 RMSE 0.124, MAE 0.083, SDE 0.122를 기록하여 높은 예측 정확도를 보였다.
• 통계 분석을 통해 시스템의 안정성이 확인되었으며, 여러 독립 실행에서 일관된 성능을 기록했다.
• 모델은 강력한 일반화 능력을 보이며, 재학습 없이도 다양한 풍력 발전소 위치에 적용해도 효과성을 유지했다.
• RBM 계층의 비지도 사전 훈련이 특징 학습을 크게 향상시켜 전통적 방법에 비해 성능 향상을 이끌었다.
• DBN-WP 모델은 정확도와 안정성 측면에서 더 복잡한 하이브리드 학습 기법들보다 뛰어나거나 동등한 성능을 보였다.