[논문 리뷰] Short-Term Electricity-Load Forecasting by Deep Learning: A Comprehensive Survey

Qi Dong, Rubing Huang외 5명|arXiv (Cornell University)|2024. 08. 29.

Energy Load and Power Forecasting인용 수 4

한 줄 요약

이 종합적 서베이는 지난 10년간 단기 전력 수요 예측(STELF) 분야에서의 딥러닝 응용을 검토하며, 데이터 전처리, 특징 추출, 딥러닝 모델, 최적화 및 평가 방법을 분석한다. 주요 추세, 과제 및 향후 방향성(예: 그래프 신경망, 이미지 복원 기법, 대규모 언어 모델(LLMs))을 규명하여, 비선형적이고 복잡한 전력 시스템에서 예측 정확도 향상과 모델 일반화 능력 향상을 위한 체계적인 프레임워크를 제공한다.

ABSTRACT

Short-Term Electricity-Load Forecasting (STELF) refers to the prediction of the immediate demand (in the next few hours to several days) for the power system. Various external factors, such as weather changes and the emergence of new electricity consumption scenarios, can impact electricity demand, causing load data to fluctuate and become non-linear, which increases the complexity and difficulty of STELF. In the past decade, deep learning has been applied to STELF, modeling and predicting electricity demand with high accuracy, and contributing significantly to the development of STELF. This paper provides a comprehensive survey on deep-learning-based STELF over the past ten years. It examines the entire forecasting process, including data pre-processing, feature extraction, deep-learning modeling and optimization, and results evaluation. This paper also identifies some research challenges and potential research directions to be further investigated in future work.

연구 동기 및 목표

• 지난 10년간 단기 전력 수요 예측(STELF) 분야에서의 딥러닝 응용에 대한 체계적이고 종합적인 검토를 제공하기 위해.
• 데이터 전처리, 특징 추출, 딥러닝 모델링, 최적화, 평가 지표를 포함한 전체 STELF 워크플로우를 분석하기 위해.
• 기상 조건, 계절성 및 스마트 그리드 데이터의 급격한 증가로 인해 발생하는 비선형적이고 변동성이 큰 복잡한 수요 데이터를 다루는 데 지속적인 과제를 규명하기 위해.
• 그래프 기반 모델, 영상 처리 기법, 대규모 언어 모델(LLMs)와 같은 새로운 연구 방향을 탐색하여, 더 나은 일반화 능력과 제로샷 학습을 위한 예측 성능 향상을 도모하기 위해.
• 딥러닝 기반 STELF 분야의 최신 기법, 추세 및 열린 과제를 요약하여 연구자 및 실무자에게 가이드를 제공하기 위해.

제안 방법

• 6개 주요 데이터베이스에서 关련 키워드를 활용한 체계적 문헌 검토를 수행한 후, 완전성과 관련성을 확보하기 위해 수동 선별을 실시하였다.
• 실제 STELF 워크플로우를 기반으로 리뷰를 구성하였으며, 데이터 수집, 전처리, 특징 공학, 딥러닝 모델 선택(DNNs, RNNs, CNNs, Transformers 등), 최적화, 평가 절차를 포함하였다.
• 데이터 전처리 기법(예: 정규화, 이방치 처리), 특징 추출(예: 기상, 시간, 달력 특징) 및 모델 아키텍처를 분류하고 분석하였다.
• 손실 함수 설계, 하이퍼파rameter 튜닝, 고급 최적화기(예: Adam, SSA 변종)를 포함한 최적화 전략을 평가하였으며, 계산 효율성에 중점을 두었다.
• 공간-시간 모델링을 위한 그래프 신경망(GNNs)과 이미지 복원 기반 기법(예: 이미지 인painting)을 활용한 방법을 탐색하였으며, 이는 수요 예측을 누락된 데이터 생성 문제로 간주하는 데 기반한다.
• 대규모 언어 모델(LLMs)의 소품 학습 및 적은 샘플 학습을 위한 잠재적 활용 가능성을 조사하였으며, 이는 소품 일반화 능력과 맥락 기반 추론 능력을 활용하기 위함이다.

Figure 1 . The structure of this survey paper.

실험 결과

연구 질문

• RQ1 지난 10년간 단기 전력 수요 예측(STELF) 분야에서 주로 사용된 딥러닝 아키텍처는 무엇이며, 어떻게 진화해 왔는가?
• RQ2 데이터 전처리 및 특징 공학 기법은 STEFL에서 딥러닝 모델의 성능과 내구성에 어떤 영향을 미치는가?
• RQ3 기상 조건 및 계절성과 같은 외부 요인으로 인해 발생하는 비선형적이고 변동성이 크며 복잡한 전력 수요 패턴을 모델링하는 데 있어 핵심 과제는 무엇인가?
• RQ4 그래프 신경망과 영상 처리 기반 기법(예: 이미지 인painting)은 어떻게 단기 전력 수요 예측에서 공간-시간 표현 학습을 향상시키는 데 응용될 수 있는가?
• RQ5 대규모 언어 모델(LLMs)은 제로샷 또는 소품 학습에서 전력 수요 예측의 일반화 능력을 어떻게 향상시킬 수 있으며, 잠재적 이점과 한계는 무엇인가?

주요 결과

• 특히 RNNs, CNNs, Transformers를 포함한 딥러닝 모델은 비선형적이고 변동성이 큰 수요 패턴을 다루는 데 기존 통계적 및 머신러닝 방법보다 뚜렷한 성능 향상을 보였다.
• 그래프 신경망(GNNs)은 여러 버스바 또는 지역 간 공간적 상관관계를 모델링하는 데 잠재력이 있으며, 특히 시간적 모델링과 조합될 경우 더욱 유망하다.
• 영상 기반 예측 기법은 수요 시계열을 이미지로 간주하고 향후 값을 누락된 패치로 간주함으로써, 이미지 인painting을 영감으로 삼은 새로운 순차 예측 접근법을 제공한다.
• 시간 시계열 예측에 대규모 언어 모델(LLMs)를 통합하는 것은 전환적 방향으로 부상하고 있으며, 다양한 데이터셋 간 제로샷 일반화 가능성을 열어줄 수 있다.
• 개선된 Adam 및 SSA 변종 최적화 기법, 경량 네트워크 설계, 맞춤형 손실 함수는 모델 효율성과 정확도 향상에 핵심적이다.
• 다른 한편으로는 해석 가능성, 실시간 추론 속도, 특히 극단적인 기상 조건이나 시장 변화 상황에서의 일반화 능력 향상에 여전히 과제가 남아 있다.

(a) Number of publications per year.