[논문 리뷰] Machine Learning Approaches to Energy Consumption Forecasting in Households

Riccardo Bonetto, Michele Rossi|arXiv (Cornell University)|2017. 06. 29.

Energy Load and Power Forecasting참고 문헌 15인용 수 25

한 줄 요약

이 논문은 다단계 예측을 위한 기계학습 기반 접근법—SVM, NAR, LSTM 신경망—을 ARMA와 비교하여 주택 에너지 소비 예측 성능을 평가한다. 병렬 학습 프레임워크와 실제 전력 수요 데이터를 사용하여, 모든 기계학습 방법이 ARMA를 능가하는 것으로 나타났지만, 특정 예측 수준에서 유일하게 뛰어난 성능을 보이는 모델은 없었으며, 따라서 최적의 정확도와 낮은 불확실성 확보를 위해 단기 예측(최대 40분 이내)에는 NAR, 장기 예측에는 SVM을 활용하는 하이브리드 접근 방식을 권장한다.

ABSTRACT

We consider the problem of power demand forecasting in residential micro-grids. Several approaches using ARMA models, support vector machines, and recurrent neural networks that perform one-step ahead predictions have been proposed in the literature. Here, we extend them to perform multi-step ahead forecasting and we compare their performance. Toward this end, we implement a parallel and efficient training framework, using power demand traces from real deployments to gauge the accuracy of the considered techniques. Our results indicate that machine learning schemes achieve smaller prediction errors in the mean and the variance with respect to ARMA, but there is no clear algorithm of choice among them. Pros and cons of these approaches are discussed and the solution of choice is found to depend on the specific use case requirements. A hybrid approach, that is driven by the prediction interval, the target error, and its uncertainty, is then recommended.

연구 동기 및 목표

• 현대 기계학습 모델의 다단계 앞서 예측 성능을 기존의 ARMA와 비교 평가하는 것.
• 실용적인 하드웨어에 구동 가능한 효율적인 병렬 학습 프레임워크를 설계 및 구현하는 것.
• 예측 정확도와 오차 분산 측면에서 SVM, NAR, LSTM 모델의 장단점이 다양한 예측 수준에서 어떻게 나타나는지 규명하는 것.
• 예측 구간, 목표 오차, 불확실성 기반으로 최적의 하이브리드 예측 전략을 제안하는 것.

제안 방법

• 계산 시간을 줄이기 위해 병렬 학습 프레임워크를 구현하여 SVM, NAR, LSTM 모델의 각 h단계 예측을 독립적으로 학습한다.
• SVM의 경우, h개의 별도 모델을 병렬로 학습시키며, 각 모델은 한 단계의 미래 값을 예측하고, 예측 오차를 제한하기 위해 ε-감성 손실 함수를 사용한다.
• NAR 네트워크는 30분 입력 윈도우와 50개의 은닉 메모리 셀을 가지며, 소프트시그모이드 활성화 함수를 사용하는 순환 아키텍처로, 과거 시계열을 기반으로 미래 값을 예측하도록 학습된다.
• LSTM 모델은 ADAGRAD 최적화 기법을 사용하며, 30분 입력 윈도우와 단일 선형 출력 뉴런을 갖추고 있어 장기적인 시간 의존성 모델링에 적합하다.
• 모든 모델는 실제 구현 사례에서 확보한 실질적인 주택 전력 수요 추적 데이터를 기반으로 학습 및 테스트되어 실용적 관련성을 확보한다.
• 성능 평가는 다단계 예측 수준(1~120분)에서 평균 절대 오차(MAE)와 오차 분산을 기준으로 평가된다.

실험 결과

연구 질문

• RQ1 SVM, NAR, LSTM 모델이 ARMA에 비해 다단계 앞서 예측하는 주택 에너지 소비 예측에서 평균 절대 오차와 오차 분산 측면에서 어떻게 성능을 냈는가?
• RQ2 다단계 예측에 있어 h개의 별도 모델을 학습하는 방식(SVM)과 단일 순환 모델을 학습하는 방식(NAR, LSTM) 간의 계산 비용과 정확도 간 상호 교환 관계는 어떠한가?
• RQ3 단기 예측(≤40분)과 장기 예측(≥60분) 수준에서 어느 모델이 가장 정확하고 안정적인 예측 성능을 보였는가?
• RQ4 다른 모델의 장점을 조합하는 하이브리드 예측 접근 방식이 종합적인 예측 성능 향상에 기여할 수 있는가?

주요 결과

• 모든 기계학습 모델—SVM, NAR, LSTM—은 모든 예측 수준에서 ARMA 기준선 대비 낮은 평균 절대 오차를 기록하였다.
• 단기 예측(최대 40분 이내)에서는 NAR가 가장 높은 예측 정확도를 보였으며, 첫 30분 동안 가장 낮은 오차를 기록하였다.
• 장기 예측(60분 이상)에서는 SVM이 모든 다른 모델보다 뛰어난 성능을 보였으며, 가장 낮은 평균 절대 오차와 약 h = 60분에서 최소 오차 분산을 기록하였다.
• LSTM는 모든 예측 수준에서 가장 낮은 오차 분산을 보였으며, 약간 낮은 평균 정확도에도 불구하고 예측 성능이 가장 일관되었다.
• ARMA와 NAR의 오차 분산은 SVM과 LSTM보다 더 빠르게 증가하여, 장기 예측에서 더 높은 불확실성을 나타내었다.
• 예측 정확도와 불확실성의 균형을 고려할 때, 단기 예측(최대 40분 이내)에는 NAR, 장기 예측에는 SVM을 활용하는 하이브리드 예측 전략을 권장한다.