[논문 리뷰] Smooth Pinball Neural Network for Probabilistic Forecasting of Wind Power

Kostas Hatalis, Alberto J. Lamadrid외 2명|arXiv (Cornell University)|2017. 10. 04.

Energy Load and Power Forecasting참고 문헌 34인용 수 23

한 줄 요약

이 논문은 비모수적 확률적 바람 풍력 예측을 위해 부드러운 핀볼 손실의 근사값과 새로운 가중치 초기화 기법을 결합한 스무스 핀볼 신경망(SPNN)을 제안한다. 이는 분위수 교차를 방지하기 위한 것이다. 이 방법은 GEFCOM2014 데이터셋의 모든 10개 지역에서 분위수 점수, 예측 간격의 날카움, 신뢰성 측면에서 우수한 성능을 보이며, 다중 분위수 회귀 및 서포트 벡터 분위수 회귀와 같은 기준 모델들을 능가한다. 또한 분위수 추정치의 겹침을 제거한다.

ABSTRACT

Uncertainty analysis in the form of probabilistic forecasting can significantly improve decision making processes in the smart power grid for better integrating renewable energy sources such as wind. Whereas point forecasting provides a single expected value, probabilistic forecasts provide more information in the form of quantiles, prediction intervals, or full predictive densities. This paper analyzes the effectiveness of a novel approach for nonparametric probabilistic forecasting of wind power that combines a smooth approximation of the pinball loss function with a neural network architecture and a weighting initialization scheme to prevent the quantile cross over problem. A numerical case study is conducted using publicly available wind data from the Global Energy Forecasting Competition 2014. Multiple quantiles are estimated to form 10%, to 90% prediction intervals which are evaluated using a quantile score and reliability measures. Benchmark models such as the persistence and climatology distributions, multiple quantile regression, and support vector quantile regression are used for comparison where results demonstrate the proposed approach leads to improved performance while preventing the problem of overlapping quantile estimates.

연구 동기 및 목표

• 확률적 바람 풍력 예측에서 분위수 교차 문제를 해결함으로써 신뢰성과 해석 가능성을 향상시키기 위해.
• 부드러운 핀볼 손실 함수의 근사값을 사용해 훈련된 신경망을 통해 비모수적 확률적 예측의 정확성과 강건성을 향상시키기 위해.
• 균일 분포 근사 기반의 초기 가중치 설정을 통해 분위수 예측의 교차를 방지하는 가중치 초기화 기법을 개발하기 위해.
• GEFCOM2014 경쟁에서 확보한 실세계 바람 데이터를 바탕으로 SPNN 모델을 기준 모델들과 비교하기 위해.
• SPNN이 기존 방법들보다 낮은 분위수 점수를 기록하며 더 날카우면서도 더 신뢰할 수 있는 예측 간격을 생성함을 입증하기 위해.

제안 방법

• SPNN은 다중 분위수 출력을 동시에 학습할 수 있도록 부드러운 핀볼 손실 함수의 근사값을 사용하여 기울기 기반 훈련을 가능하게 한다.
• 새로운 가중치 초기화 기법은 균일 분포 근사 기반으로 풍력 출력의 제곱 오차를 모의하여 초기 가중치를 설정함으로써 훈련 중 분위수 교차를 방지한다.
• 모델은 역사적 풍력 데이터와 수치 기상 예측(NWP) 데이터를 종합적으로 사용해 엔드 투 엔드로 훈련되며, 동시에 다수의 분위수를 예측한다.
• 단일 네트워크를 훈련시켜 한 번의 순전파에서 10%, 20%, ..., 90% 예측 간격을 추정한다.
• 정확성과 신뢰성을 평가하기 위해 분위수 점수(QS), 간격 점수(IS), 커버리지 정확도(ACE)를 사용하여 성능을 평가한다.
• SPNN은 휘도, 기후학, 다중 분위수 회귀(MQR), 서포트 벡터 분위수 회귀(SVQR)와 같은 기준 모델들과 비교된다.

실험 결과

연구 질문

• RQ1 부드러운 핀볼 손실 함수의 근사값이 다중 분위수 바람 풍력 예측을 위한 신경망 훈련의 안정성과 성능을 향상시키는가?
• RQ2 제안된 가중치 초기화 기법이 다중 출력 신경망에서 분위수 교차를 효과적으로 방지하는가?
• RQ3 SPNN 모델은 분위수 점수, 예측 간격의 날카움, 그리고 신뢰성 측면에서 기존 기준 모델들과 비교해 어떻게 성과를 내는가?
• RQ4 SPNN은 전체 조건부 분포를 직접 모델링하지 않더라도 높은 품질의 예측 밀도를 생성할 수 있는가?
• RQ5 SPNN은 다양한 풍력 발전소 위치와 예측 수준에서 얼마나 잘 적절한 커버리지와 날카운 예측 간격을 유지하는가?

주요 결과

• SPNN-w(가중치 초기화 포함)는 GEFCOM2014 데이터셋의 모든 10개 지역에서 가장 낮은 분위수 점수를 기록했으며, MQR 및 SVQR보다 뚜렷이 뛰어났다.
• SPNN-w는 SPNN-wo 대비 분위수 교차 수를 약 두 개의 지수 단위 감소시켜, 지역당 평균 100건 미만으로 줄였다.
• SPNN-w는 모든 지역에서 가장 낮은 간격 점수(IS)를 기록하여 가장 날카우면서도 정밀한 예측 간격을 확보했다.
• 대부분의 지역에서 SPNN-w는 가장 낮거나 두 번째로 낮은 ACE(커버리지 정확도)를 기록하여 관측값을 잘 포함하는 높은 신뢰성을 입증했다.
• 모델은 모든 월과 지역에서 적절한 예측 간격 커버리지를 유지했으며, 사전 설정된 PI 수준이 항상 충족되었다.
• SPNN 방법은 간접적으로 최적의 분위수 추정을 통해 높은 품질의 예측 밀도를 생성했으며, 간격 커버리지나 폭을 직접 최적화하지 않아도 되었다.