[논문 리뷰] Filling time-series gaps using image techniques: Multidimensional context autoencoder approach for building energy data imputation

Chun Fu, Matías Quintana외 2명|arXiv (Cornell University)|2023. 07. 12.

Building Energy and Comfort Optimization참고 문헌 57인용 수 5

한 줄 요약

이 연구는 이미지 기반 딥러닝—특히 부분 컨볼루션(PConv)—를 사용하여 1차원 시계열을 2차원 공간 격자로 재구성함으로써 누락된 건물 에너지 데이터를 보간하는 새로운 다차원적 맥락 오토인코더를 제안한다. 이 방법은 1D-CNN 및 주간 지속성 기준선보다 성능이 뛰어나 1,479개의 글로벌 전력 미터에서 MSE를 20–30% 감소시켜 다양한 미터 유형과 누락 데이터 패턴 간의 보간 정확도와 일반화 능력 향상에 크게 기여한다.

ABSTRACT

Building energy prediction and management has become increasingly important in recent decades, driven by the growth of Internet of Things (IoT) devices and the availability of more energy data. However, energy data is often collected from multiple sources and can be incomplete or inconsistent, which can hinder accurate predictions and management of energy systems and limit the usefulness of the data for decision-making and research. To address this issue, past studies have focused on imputing missing gaps in energy data, including random and continuous gaps. One of the main challenges in this area is the lack of validation on a benchmark dataset with various building and meter types, making it difficult to accurately evaluate the performance of different imputation methods. Another challenge is the lack of application of state-of-the-art imputation methods for missing gaps in energy data. Contemporary image-inpainting methods, such as Partial Convolution (PConv), have been widely used in the computer vision domain and have demonstrated their effectiveness in dealing with complex missing patterns. To study whether energy data imputation can benefit from the image-based deep learning method, this study compared PConv, Convolutional neural networks (CNNs), and weekly persistence method using one of the biggest publicly available whole building energy datasets, consisting of 1479 power meters worldwide, as the benchmark. The results show that, compared to the CNN with the raw time series (1D-CNN) and the weekly persistence method, neural network models with reshaped energy data with two dimensions reduced the Mean Squared Error (MSE) by 10% to 30%. The advanced deep learning method, Partial convolution (PConv), has further reduced the MSE by 20-30% than 2D-CNN and stands out among all models.

연구 동기 및 목표

• 에너지 예측 및 관리에 대한 기계학습 모델의 성능을 저해하는 누락되고 일관성 없는 건물 에너지 데이터 문제를 해결한다.
• 특히 부분 컨볼루션(PConv)을 포함한 최신 이미지 복원 기법들이 시간 시리즈 에너지 데이터 보간에 적용 가능한지 평가한다.
• 다양한 출처와 미터 유형에서 온 1,479개 건물 전력 미터의 대규모 다양성 있는 데이터셋을 바탕으로 보간 방법 평가를 위한 벤치마크를 수립한다.
• 실제 건물 에너지 데이터 보간에 있어 재구성된 2차원 딥러닝 모델의 일반화 능력과 확장 가능성을 입증한다.

제안 방법

• 시간 시리즈의 공간적 규칙성을 이미지 데이터와 유사하게 활용하기 위해 1차원 건물 에너지 시계열을 2차원 공간 격자(예: 일일 또는 주간 패턴)로 재구성한다.
• 원래 이미지 복원에 개발된 부분 컨볼루션(PConv) 신경망 아키텍처를 적용하여 2차원 에너지 격자 내에서 누락된 값을 재구성하기 위해 맥락 패턴을 학습한다.
• 표준화된 1,479개 전력 미터의 벤치마크 데이터셋에서 PConv 모델을 1D-CNN 및 주간 지속성 기준선과 함께 훈련하고 평가한다.
• 다양한 누락 데이터 비율과 패턴(랜덤 및 연속된 간격)에서 보간 성능를 비교하기 위해 평균 제곱오차(MSE)와 R²를 주요 평가 지표로 사용한다.
• 다양한 미터 유형(예: 서브미터, 전체 건물 미터)과 데이터 출처에서의 모델 강건성 테스트를 통해 일반화 능력을 평가한다.
• 시간적 및 주기적 패턴을 유지하기 위해 데이터 재구성 기법을 다차원적 맥락 오토인코더 프레임워크와 통합한다.

Figure 1 : The one-dimensional time series of energy data can be reshaped into a two-dimensional heatmap image for testing different imputation methods. Comparisons are made between the one- and two-dimensional imputation, including baseline model, 1D- and 2D-CNN, and advanced deep learning techniqu

실험 결과

연구 질문

• RQ1 1차원 건물 에너지 시계열을 2차원 공간 표현으로 재구성하는 것이 딥러닝 모델의 누락 데이터 보간 성능 향상에 기여하는가?
• RQ2 다양한 건물 에너지 데이터셋에서 PConv 모델이 1D-CNN 및 주간 지속성 기준선 대비 MSE와 R² 측면에서 어떻게 성능을 내는가?
• RQ3 제안된 이미지 기반 보간 방법은 실제 건물 에너지 데이터에서 다양한 미터 유형과 데이터 출처 간에 일반화 가능한가?
• RQ4 10% 이상의 장기 연속 누락 데이터를 처리할 경우 PConv 기반 접근법의 한계는 무엇인가?

주요 결과

• 1차원 에너지 시계열을 2차원 격자로 재구성함으로써 보간 성능이 크게 향상되었으며, 1D-CNN 및 주간 지속성 기준선 대비 MSE가 10–30% 감소하였다.
• 부분 컨볼루션(PConv) 모델이 가장 뛰어난 성능을 보였으며, 2D-CNN 대비 MSE를 추가로 20–30% 감소시켜 이 작업에 있어 고급 이미지 기반 딥러닝의 우수성을 입증하였다.
• PConv는 다양한 미터 유형에서 일관된 높은 정확도를 유지하여 이 방법의 다양한 건물 에너지 데이터 출처 및 구성에 대한 일반화 능력을 확인하였다.
• 누락 데이터가 연속적으로 10%를 초과할 경우, PConv의 평균 R²가 0.7 이하로 떨어져 장기 연속 간격 보간에서 성능 저하가 발생하는 것으로 나타났다.
• 이 연구는 전 세계에서 온 1,479개 전력 미터를 사용해 최초로 대규모 벤치마크를 수립하였으며, 실제 조건에서 보간 방법의 철저한 평가를 가능하게 하였다.
• 제안된 방법은 확장 가능하며, 환경 내 다른 시계열 데이터(예: HVAC, 조명, 가전기기 에너지 사용)의 보간에도 적용 가능하다.

Figure 2 : Overview of the proposed framework and different phases in the working pipeline.