[논문 리뷰] Machine Learning on EPEX Order Books: Insights and Forecasts

Simon Schnürch, Andreas Wagner|arXiv (Cornell University)|2019. 06. 14.

Energy Load and Power Forecasting참고 문헌 7인용 수 6

한 줄 요약

이 논문은 EPEX 주문도 데이터, 재생 가능 에너지 공급 예측 및 수요 전망을 기반으로 퍼지형 신경망과 랜덤 포레스트를 활용한 기계학습 모델을 제안하여 독일 전력 스팟 가격 예측을 향상시키는 것을 목적으로 한다. 특성 선택 및 볼륨 기반 주문도 표현 방식이 성능 향상에 크게 기여하며, 최고의 모델은 검증용 데이터에서 4.45%의 MdAPE를 기록하였다.

ABSTRACT

This paper employs machine learning algorithms to forecast German electricity spot market prices. The forecasts utilize in particular bid and ask order book data from the spot market but also fundamental market data like renewable infeed and expected demand. Appropriate feature extraction for the order book data is developed. Using cross-validation to optimise hyperparameters, neural networks and random forests are proposed and compared to statistical reference models. The machine learning models outperform traditional approaches.

연구 동기 및 목표

• 기계학습을 활용하여 주문도 기반 전력 가격 예측에서 광범위한 통계 분석의 필요성을 줄이기 위해.
• 주문도 데이터가 기계학습 모델에 효과적으로 변환되고 통합될 수 있는 방법을 탐구하기 위해.
• 기계학습 모델이 전통적인 통계 및 회귀 기반 접근 방식에 비해 독일 전력 스팟 가격 예측에서 더 우수한 성능을 보이는지 평가하기 위해.
• 특성 선택 및 모델 아키텍처가 예측 정확도, 특히 검증용 성능에 미치는 영향을 평가하기 위해.
• 기계학습이 주문도 데이터에서 재생 가능 에너지 공급을 재구성하거나 향후 가격 곡선을 생성할 잠재력을 탐색하기 위해.

제안 방법

• 주문도 데이터는 볼륨 기반 분할을 통해 가격 곡선으로 변환되며, 매입 및 매도 곡선이 각 가격 수준에서의 누적 볼륨을 나타내는 단계 함수로 변환된다.
• 특성 공학은 주로 재생 가능 에너지 공급과 수요에 영향을 받는 가격 수준과 볼륨을 추출하는 데 중점을 둔다.
• 교차 검증을 통해 하이퍼파ram터 최적화를 수행하며, 입력으로 주문도 특성, 재생 가능 에너지 공급 예측 및 예상 수요가 포함된 퍼지형 신경망과 랜덤 포레스트를 훈련시킨다.
• 랜덤 포레스트를 활용한 특성 선택을 통해 가장 예측 가능한 특성들을 식별하고 차원을 축소하여 모델의 일반화 능력을 향상시킨다.
• 순환 신경망(LSTM)은 테스트되었지만, 높은 차원성과 복잡성으로 인해 성능이 열 劣하여, 주로 퍼지형 신경망과 랜덤 포레스트에 집중하게 되었다.
• 모델 성능 평가에는 RMSE, MAE, MdAPE를 사용하였으며, 훈련용 및 검증용 데이터에서 평가하였고, 나이브 모델, 선형 회귀 및 문헌 기반 아키텍처와의 비교도 수행되었다.

실험 결과

연구 질문

• RQ1 EPEX 전력 시장의 주문도 데이터는 어떻게 효과적으로 기계학습 모델에 표현되고 통합될 수 있는가?
• RQ2 기계학습은 전통적인 경제계량 모델 대비 주문도 기반 예측에서 수작업 통계 분석의 필요성을 얼마나 줄일 수 있는가?
• RQ3 퍼지형 신경망과 랜덤 포레스트 중 어떤 기계학습 아키텍처가 EPEX 주문도에 적용했을 때 가장 정확한 검증용 예측을 제공하는가?
• RQ4 특성 선택은 과적합을 줄이고 일반화 능력을 향상시키는 데 어떻게 영향을 미치는가?
• RQ5 기계학습 모델은 주문도 데이터에서 재생 가능 에너지 공급을 재구성하거나 향후 곡선을 생성할 수 있으며, 이는 시장 응용 분야에서 어떤 잠재력을 지닐 수 있는가?

주요 결과

• 특성 선택을 적용한 10개의 특성만을 사용한 퍼지형 신경망이 검증용 데이터에서 가장 낮은 MdAPE 4.45%를 기록하여 다른 모델들을 압도했다.
• 10개의 선택된 특성을 사용한 랜덤 포레스트 모델은 9.73%의 훈련용 MdAPE를 기록하여 과적합이 감소한 강력한 예측 능력을 보였다.
• 이전 문헌에서 제시된 신경망 모델은 훈련용 데이터에서는 뛰어난 성능을 보였지만, 심각한 과적합 문제로 인해 검증용 MdAPE 값이 30%를 초과하는 등 성능이 저하되었다.
• 나이브 모델은 단순함에도 불구하고 검증용 데이터에서 11.61%의 MdAPE를 기록하여, 실무에서 기본 히ュ리스틱 전략이 여전히 경쟁력이 있음을 보여주었다.
• 순환 신경망(LSTM)은 퍼지형 신경망보다 성능이 열 劣했으며, 이는 다변량 시계열의 높은 차원성 때문으로 보인다.
• 최고의 성능을 보인 모델(10개 특성 신경망)은 특성 선택이 일반화 능력 향상에 매우 중요하며, 선택되지 않은 모델 대비 오차를 50% 이상 감소시켰다.