[논문 리뷰] Short-term Load Forecasting with Dense Average Network

Zhifang Liao, Haihui Pan외 4명|arXiv (Cornell University)|2019. 12. 08.

Energy Load and Power Forecasting인용 수 7

한 줄 요약

이 논문은 단기 부하 예측을 위한 새로운 밀도 평균 네트워크(Dense Average Network, DAN)를 제안하며, 모든 이전 레이어의 출력을 평균화하여 특징 학습을 향상시키는 밀도 평균 연결을 도입한다. 이 모델은 공개 데이터셋에서 뛰어난 정확도를 달성하고, 입력 방해 요소가 존재하더라도 기존 방법들을 능가하는 강건성을 보이며 앙상블 통합을 통해 최신 기술 수준에 도달한다.

ABSTRACT

As an important part of the power system, power load forecasting directly affects the national economy. The data shows that improving the load forecasting accuracy by 0.01% can save millions of dollars for the power industry. Therefore, improving the accuracy of power load forecasting has always been the pursuing goals for a power system. Based on this goal, this paper proposes a novel connection, the dense average connection, in which the outputs of all preceding layers are averaged as the input of the next layer in a feed-forward fashion. Based on dense average connection , we construct the dense average network for power load forecasting. The predictions of the proposed model for two public datasets are better than those of existing methods. On this basis, we use the ensemble method to further improve the accuracy of the model. To verify the reliability of the model predictions, the robustness is analyzed and verified by adding input disturbances. The experimental results show that the proposed model is effective and robust for power load forecasting.

연구 동기 및 목표

• 국민 경제적 절감에 직접적인 영향을 미치는 단기 부하 예측 정확도 향상
• 기존 딥 러닝 모델이 부하 데이터의 복잡한 시간 패턴을 포착하는 데 한계가 있음을 해결하기 위해
• 모든 이전 레이어의 출력 평균을 통해 특징 표현을 향상시키는 새로운 신경망 아키텍처인 밀도 평균 네트워크(Dense Average Network) 개발
• 입력 노이즈 및 교란 조건 하에서 모델의 강건성 검증
• 기준 데이터셋에서 앙상블 학습을 통해 최신 기술 수준의 성능 달성

제안 방법

• 후행 레이어의 입력으로 이전 모든 레이어의 출력을 순차적으로 평균화하는 밀도 평균 연결을 제안
• 이러한 연결을 반복하여 쌓아 올려 기울기 흐름 향상과 특징 재사용을 향상시키는 밀도 평균 네트워크(DAN) 구축
• 다양한 DAN 모델을 조합하는 앙상블 방법을 적용하여 예측 정확도를 추가로 향상
• 실제 세계의 데이터 노이즈 및 이상 현상을 시뮬레이션하기 위해 입력 변형을 적용하여 모델 강건성 평가
• 표준 딥 러닝 최적화 방법을 사용해 두 개의 공개 단기 부하 예측 데이터셋에서 모델을 종단 간 학습
• 기존 방법과의 성능 비교를 위해 MAE 및 RMSE와 같은 표준 평가 지표 사용

실험 결과

연구 질문

• RQ1 새로운 밀도 평균 연결 메커니즘이 단기 부하 예측에서 특징 표현을 향상시킬 수 있는가?
• RQ2 제안된 밀도 평균 네트워크가 기존 딥 러닝 모델보다 더 높은 예측 정확도를 달성하는가?
• RQ3 DAN 모델의 앙상블이 예측 성능과 강건성에 어떤 영향을 미치는가?
• RQ4 입력 교란 또는 노이즈 데이터 상황에서 모델의 강건성은 어느 정도인가?
• RQ5 제안된 아키텍처가 다양한 공개 부하 예측 데이터셋에 효과적으로 일반화되는가?

주요 결과

• 제안된 밀도 평균 네트워크는 두 개의 공개 단기 부하 예측 데이터셋에서 기존 방법보다 더 뛰어난 예측 성능을 달성한다.
• DAN 모델의 앙상블은 정확도를 추가로 향상시키며, 이 분야에서 모델 평균화의 효과성을 입증한다.
• 모델는 입력 교란 조건에서도 안정적인 성능을 유지하며 강건성을 잘 보여준다.
• 밀도 평균 연결 메커니즘은 특징 학습과 기울기 흐름 향상에 기여하여 수렴성과 정확도 향상에 기여한다.
• 결과적으로, 부하 예측 정확도 향상 0.01%만으로도 전력 산업 분야에서 상당한 비용 절감 효과를 낼 수 있음을 확인한다.
• 모델의 아키텍처는 다양한 데이터셋에서 효과적이며 일반화 능력이 있음을 시사한다.