[논문 리뷰] A Data Mining Approach Combining K-Means Clustering with Bagging Neural Network for Short-term Wind Power Forecasting

Wu Wenbin, Mugen Peng|arXiv (Cornell University)|2017. 09. 14.

Energy Load and Power Forecasting참고 문헌 19인용 수 7

한 줄 요약

이 논문은 K-means 군집화와 백싱기 기반의 역전파 신경망(Bagging-BPNN)을 조합한 데이터 마이닝 접근법을 제안하여 단기 풍력 발전 예측 정확도를 향상시킨다. 기상 및 발전량 데이터 유사성 기반으로 이전 일수를 군집화하고, 백싱기 기법을 통해 BPNN의 안정성을 높임으로써, 표준 BPNN 대비 평균제곱오차(RMSE)에서 최대 38.7% 감소와 평균절대오차(MAE)에서 29.8% 감소를 달성한다.

ABSTRACT

Wind power forecasting (WPF) is significant to guide the dispatching of grid and the production planning of wind farm effectively. The intermittency and volatility of wind leading to the diversity of the training samples have a major impact on the forecasting accuracy. In this paper, to deal with the training samples dynamics and improve the forecasting accuracy, a data mining approach consisting of K-means clustering and bagging neural network is proposed for short-term WPF. Based on the similarity among historical days, K-means clustering is used to classify the samples into several categories, which contain the information of meteorological conditions and historical power data. In order to overcome the over fitting and instability problems of conventional networks, a bagging-based ensemble approach is integrated into the back propagation neural network. To confirm the effectiveness, the proposed data mining approach is examined on real wind generation data traces. The simulation results show that it can obtain better forecasting accuracy than other baseline and existed short-term WPF approaches.

연구 동기 및 목표

• 바람의 간헐성과 변동성으로 인한 훈련 샘플의 다양성과 불안정성 문제를 해결한다.
• 기상 및 이전 발전량 데이터 기반으로 K-means 군집화를 활용해 대표적인 훈련 샘플을 선별하여 예측 정확도를 향상시킨다.
• 백싱기 기반의 앙상블 학습을 통해 역전파 신경망의 과적합을 줄이고 모델 안정성을 향상시킨다.
• 실제 풍력 발전소 데이터를 대상으로 하이브리드 접근법의 유효성을 입증하며, 기준 모델 및 기존 방법들을 초월한다.

제안 방법

• 기상 및 풍력 발전량 데이터(예: winde speed, temperature, blade angle)의 이전 기록을 대상으로 K-means 군집화를 적용하여 유사한 날들을 군집화한다.
• 예측 일자와 각 군집 간의 유사도를 측정하기 위해 피어슨 상관계수를 사용하며, 가장 관련성이 높은 군집을 훈련에 선택한다.
• 입력 차원을 감소시키고 모델 효율성을 향상시키기 위해 Relief 알고리즘을 활용한 특성 선택을 수행한다.
• 백싱기(부트스트랩 집계) 기법을 역전파 신경망에 통합하여 분산과 과적합을 줄이는 앙상블 모델을 구축한다.
• 선택된 군집 데이터를 기반으로 백싱-BPNN를 훈련하며, 부트스트랩 리샘플링을 통해 다양한 훈련 서브셋을 생성한다.
• 여러 개의 기본 BPNN 모델의 예측 결과를 융합하여 보다 견고한 최종 예측을 도출한다.

실험 결과

연구 질문

• RQ1 기상 및 발전량 유사성 기반으로 이전 풍력 데이터를 군집화하면 단기 풍력 발전 예측 정확도가 향상되는가?
• RQ2 백싱기와 역전파 신경망을 조합함으로써 과적합이 줄어들고 예측 안정성이 향상되는가?
• RQ3 제안된 K-means 및 백싱-BPNN 접근법은 표준 BPNN 및 기존의 예측 방법에 비해 성능에서 어떻게 뛰어나게 되는가?
• RQ4 Relief 알고리즘을 통한 특성 선택이 모델 성능 향상과 계산 복잡도 감소에 얼마나 기여하는가?

주요 결과

• 군집화를 적용한 제안된 백싱-BPNN는 표준 BPNN 대비 RMSE를 38.7% 감소시키고, MAE를 29.8% 감소시켰다.
• 이 방법은 RMSE 342.548 kW, MAE 255.156 kW를 기록하여, BPNN( RMSE: 558.098 kW, MAE: 365.091 kW)를 뛰어넘는 성능을 보였다.
• 단순히 군집화만 적용한 BPNN 대비 제안된 방법은 RMSE를 30.1% 감소시키고, MAE를 21.1% 감소시켰다.
• 세 가지 기존 방법보다 제안된 방법이 뚜렷이 뛰어났다: Approach 1(RMSE: 1053.736 kW), Approach 2(RMSE: 427.912 kW), Approach 3(RMSE: 389.472 kW).
• 백싱-BPNN에 군집화를 적용한 방법은 PCA 기반 ANN 앙상블을 사용하는 Approach 2보다 RMSE가 19.9% 낮고, MAE가 17.1% 낮았다.
• 결과는 유사한 이전 일수를 군집화하고 앙상블 학습을 활용하는 것이 예측 정확도와 견고성을 크게 향상시킨다는 점을 확인시켰다.