[논문 리뷰] Variational Autoencoder Generative Adversarial Network for Synthetic Data Generation in Smart Home

Mina Razghandi, Hao Zhou외 2명|arXiv (Cornell University)|2022. 01. 19.

Energy Load and Power Forecasting인용 수 7

한 줄 요약

이 논문은 스마트 홈에서 고해상도 합성 시계열 데이터를 생성하기 위해 변분 오토인코더 생성 적대 신경망(VAE-GAN)을 제안한다. 이는 생성 적대 신경망(GAN)의 생성 능력과 변분 오토인코더(VAE)의 정규화된 잠재 공간을 결합하여 모드 붕괴를 방지한다. VAE-GAN은 기존 GAN보다 분포 간 산란을 크게 줄여(예: 부하 데이터의 경우 97% 감소) 다양한 지표에서 실제 데이터와 유사한 통계적 특성을 확보하여 뛰어난 성능을 발휘한다.

ABSTRACT

Data is the fuel of data science and machine learning techniques for smart grid applications, similar to many other fields. However, the availability of data can be an issue due to privacy concerns, data size, data quality, and so on. To this end, in this paper, we propose a Variational AutoEncoder Generative Adversarial Network (VAE-GAN) as a smart grid data generative model which is capable of learning various types of data distributions and generating plausible samples from the same distribution without performing any prior analysis on the data before the training phase.We compared the Kullback-Leibler (KL) divergence, maximum mean discrepancy (MMD), and Wasserstein distance between the synthetic data (electrical load and PV production) distribution generated by the proposed model, vanilla GAN network, and the real data distribution, to evaluate the performance of our model. Furthermore, we used five key statistical parameters to describe the smart grid data distribution and compared them between synthetic data generated by both models and real data. Experiments indicate that the proposed synthetic data generative model outperforms the vanilla GAN network. The distribution of VAE-GAN synthetic data is the most comparable to that of real data.

연구 동기 및 목표

• 스마트 그리드 응용 분야에서의 개인정보 유출 및 데이터 부족 문제를 해결하기 위해 실제와 유사한 시계열 합성 데이터를 생성하기 위해.
• 기본 데이터 분석이나 잠재 분포에 대한 가정 없이도 작동하는 데이터 기반의 생성 모델을 개발하기 위해.
• 기본 GAN의 단점을 보완하여 모드 붕괴를 완화하고 전기 부하 및 태양광 발전량 데이터의 정밀도를 향상시키기 위해.
• 다양한 통계적 및 분포 기반 지표를 사용하여 기준 모델인 GAN과의 성능을 평가하기 위해.

제안 방법

• 제안된 VAE-GAN은 생성 적대 신경망(GAN) 프레임워크 내에서 변분 오토인코더(VAE)를 생성기로 통합하여 분리 가능하고 정규화된 잠재 표현을 가능하게 한다.
• VAE 구성 요소는 학습 안정성을 향상시키고 생성 과정 중 모드 붕괴를 감소시키는 구조화된 잠재 공간을 학습한다.
• GAN 프레임워크 내의 판별기는 실제 샘플과 합성 샘플을 구분함으로써 생성기의 품질 향상을 위한 적대적 피드백을 제공한다.
• 모델은 사전 처리나 분포 가정 없이 원시 스마트 홈 시계열 데이터(전기 부하 및 태양광 발전량)를 종합적으로 학습한다.
• 실제 데이터와 합성 데이터 간의 분포 유사도를 측정하기 위해 KL 산란, 워샤르스탄 거리, MMD 등의 통계 지표를 사용한다.
• 실제 데이터와 합성 데이터 간의 주요 통계적 파라미터 5개(기본 부하, 피크 부하, 고부하 지속 시간, 상승/하강 시간)를 비교하여 데이터의 정밀도를 평가한다.

실험 결과

연구 질문

• RQ1 VAE-GAN 모델은 실제 전기 부하 및 태양광 발전량 데이터의 통계적 및 분포적 특성과 유사한 합성 스마트 홈 데이터를 생성할 수 있는가?
• RQ2 VAE-GAN 모델은 분포 유사도와 통계적 정밀도 측면에서 기존 GAN과 비교해 어떻게 성능을 냈는가?
• RQ3 GAN 생성기 내에 VAE를 통합함으로써 모드 붕괴는 얼마나 감소시키고 데이터 다양성은 어떻게 향상시키는가?
• RQ4 VAE-GAN 모델은 부하 소비 및 태양광 발전량과 같은 다양한 유형의 스마트 홈 데이터에서 뛰어난 성능을 유지하는가?

주요 결과

• VAE-GAN은 전기 부하 소비 데이터의 경우 기존 GAN 대비 합성 및 실제 데이터 분포 간 쿨백-라이블러(KL) 산란을 97% 감소시켰다.
• 태양광 발전량 데이터의 경우 VAE-GAN은 기준 GAN 대비 KL 산란을 98% 감소시켰다.
• VAE-GAN을 사용한 결과, 부하 소비 데이터의 워샤르스탄 거리는 52% 감소하였고, 태양광 발전량 데이터의 경우 72% 감소하였다.
• MMD 지표를 통해 VAE-GAN은 부하 데이터의 경우 분포 차이를 51% 감소시키고, 태양광 발전량 데이터의 경우 48% 감소시켰다.
• 통계적 비교에서 VAE-GAN은 5개 핵심 파라미터 중 4개(기본 부하, 피크 부하, 고부하 지속 시간, 상승 시간)에서 실제 데이터와 가장 유사한 결과를 도출하였으며, 특히 피크 부하의 경우 실제 값(151.39)과 매우 유사한 119.85를 기록하였다.
• VAE-GAN은 평균 기준 부하를 1.73(표준편차 10.99)로 도출하였으며, 이는 기존 GAN의 3.53(표준편차 22.34)보다 실제 데이터(9.75, 표준편차 51.13)에 훨씬 가까운 결과를 보였다.