[논문 리뷰] Electricity Load Forecasting -- An Evaluation of Simple 1D-CNN Network Structures

C. B. Lang, Florian Steinborn외 2명|arXiv (Cornell University)|2019. 11. 26.

Energy Load and Power Forecasting참고 문헌 8인용 수 9

한 줄 요약

이 논문은 집계된 주거용 전력 사용량 데이터를 사용하여 36시간 예측 범위의 단기 전력 수요 예측(STLF)을 위한 단순한 1D-CNN 아키텍처를 평가한다. 최적의 커널 크기, 필터 수, 완전 연결층 크기를 갖춘 기본적인 CNN이 아파트 빌딩(40가구) 및 도시 구역(350가구)의 전력 사용 프로파일에서 강력한 예측 성능을 달성하며, 외부 특징(기상 또는 시간 정보 등)을 포함하지 않은 표준 프로파일보다도 뛰어난 성능을 보임을 입증한다.

ABSTRACT

This paper presents a convolutional neural network (CNN) which can be used for forecasting electricity load profiles 36 hours into the future. In contrast to well established CNN architectures, the input data is one-dimensional. A parameter scanning of network parameters is conducted in order to gain information about the influence of the kernel size, number of filters, and dense size. The results show that a good forecast quality can already be achieved with basic CNN architectures.The method works not only for smooth sum loads of many hundred consumers, but also for the load of apartment buildings.

연구 동기 및 목표

• 주거 에너지 시스템에서 단기 전력 수요 예측(STLF)을 위한 단순한 1D-CNN 아키텍처의 성능 평가.
• 집계된 전력 사용 프로파일 예측을 위한 네트워크 하이퍼파라미터 조합—커널 크기, 필터 수, 완전 연결층 크기—의 최적화.
• 외부 기상 또는 시간 정보 특징을 포함하지 않은 최소한의 CNN 아키텍처가 표준 전력 사용 프로파일을 초월할 수 있는지 평가.
• 모델 복잡도가 예측 정확도와 일반화 능력에 미치는 영향 분석, 특히 과적합에 초점.

제안 방법

• 15분 간격으로 측정된 40가구 및 350가구의 집계된 주거용 전력 사용 시간 시리즈 데이터를 기반으로 1D-CNN 모델을 훈련.
• 네트워크 아키텍처는 ReLU 활성화 함수를 갖는 단일 1D-컨볼루션 레이어, 그 다음으로 글로벌 평균 풀링 레이어, 그리고 완전 연결(드롭아웃 없음) 레이어로 구성됨.
• 하이퍼파라미터 스캔은 커널 크기(3–15), 필터 수(8–64), 완전 연결층 크기(1–16) 범위에서 수행되며, 평가 지표로 평균 제곱오차(MSE) 사용.
• 모델은 아일랜드 주거용 전력 사용 데이터 18개월 분량을 포함하는 CER 스마트 미터링 프로젝트의 시간 시리즈 데이터를 기반으로 훈련 및 검증.
• 예측 범위는 15분 간격으로 144개 시간 단위(36시간)로 설정됨.
• 결과는 하이퍼파라미터 간의 상호작용과 MSE에 미치는 영향을 분석하기 위해 히트맵을 사용하여 시각화됨.

실험 결과

연구 질문

• RQ1 단기 전력 수요 예측에 있어 단순한 1D-CNN 아키텍처에서 커널 크기, 필터 수, 완전 연결층 크기의 최적 조합은 무엇인가?
• RQ2 파rameter 수로 측정되는 모델 복잡도가 예측 정확도와 일반화 능력에 미치는 영향은 어떠한가?
• RQ3 외부 특징(기상 또는 캘린더 데이터 등)을 포함하지 않은 최소한의 1D-CNN 아키텍처가 표준 전력 사용 프로파일을 초월할 수 있는가?
• RQ4 40가구 및 350가구의 집계된 전력 사용 프로파일 간 모델 성능의 차이는 어떠한가?

주요 결과

• 350가구 전력 사용 프로파일의 최적 예측 성능는 완전 연결층 크기 4–6 뉴런에서 달성되며, 이는 시간 시리즈를 표현하기 위해 4–6개의 특징만으로도 충분하다는 것을 시사함.
• 40가구 전력 사용 프로파일의 경우, 단순한 아키텍처임에도 불구하고 표준 전력 사용 프로파일보다 MSE가 크게 감소함.
• 완전 연결층 크기가 1인 경우 성능이 뚜렷이 열 劣화됨을 확인하여, 추가적인 완전 연결층이 예측 품질 향상에 기여함을 입증함.
• 큰 완전 연결층 크기에서는 과적합이 발생함을 MSE 증가로 확인하여, 높은 모델 복잡도가 성능을 떨어뜨림을 시사함.
• 작은 커널 크기(예: 3–5)가 매우 큰 또는 매우 작은 커널보다 더 좋은 결과를 내지만, 다른 하이퍼파라미터에 비해 영향은 덜 두드러짐.
• 소규모 아키텍처로도 40가구 및 350가구의 집계된 전력 사용 프로파일 모두에서 신뢰할 수 있는 예측을 달성함을 확인하여, 변동성이 큰 전력 사용 프로파일에서는 단순성이 핵심임을 시사함.