[论文解读] Variational Autoencoder Generative Adversarial Network for Synthetic Data Generation in Smart Home

Mina Razghandi, Hao Zhou+2 more|arXiv (Cornell University)|Jan 19, 2022

Energy Load and Power Forecasting被引用 7

一句话总结

本文提出一种变分自编码器生成对抗网络（VAE-GAN），用于在智能家居环境中生成高保真度的合成时间序列数据，结合生成对抗网络（GAN）的生成能力与变分自编码器（VAE）的正则化潜在空间，以避免模式崩溃。与原始GAN相比，VAE-GAN显著降低了分布差异（例如，负荷数据的KL散度降低97%），并在多个指标下展现出对真实数据更优的统计相似性。

ABSTRACT

Data is the fuel of data science and machine learning techniques for smart grid applications, similar to many other fields. However, the availability of data can be an issue due to privacy concerns, data size, data quality, and so on. To this end, in this paper, we propose a Variational AutoEncoder Generative Adversarial Network (VAE-GAN) as a smart grid data generative model which is capable of learning various types of data distributions and generating plausible samples from the same distribution without performing any prior analysis on the data before the training phase.We compared the Kullback-Leibler (KL) divergence, maximum mean discrepancy (MMD), and Wasserstein distance between the synthetic data (electrical load and PV production) distribution generated by the proposed model, vanilla GAN network, and the real data distribution, to evaluate the performance of our model. Furthermore, we used five key statistical parameters to describe the smart grid data distribution and compared them between synthetic data generated by both models and real data. Experiments indicate that the proposed synthetic data generative model outperforms the vanilla GAN network. The distribution of VAE-GAN synthetic data is the most comparable to that of real data.

研究动机与目标

• 通过生成逼真的合成时间序列数据来应对智能电网应用中的隐私和数据稀缺挑战。
• 开发一种无需前期数据分析或对底层分布做假设的数据驱动生成模型。
• 通过缓解模式崩溃并提升生成的电力负荷与光伏发电数据的保真度，改进原始GAN。
• 使用多种统计与分布度量指标，评估所提模型与基线GAN的性能表现。

提出的方法

• 所提出的VAE-GAN在GAN框架中将变分自编码器（VAE）作为生成器，实现解耦且正则化的潜在表征。
• VAE组件学习到一种结构化的潜在空间，从而提升训练稳定性并减少生成过程中的模式崩溃。
• GAN框架中的判别器用于区分真实样本与合成样本，提供对抗性反馈以提升生成器质量。
• 该模型在原始智能家居时间序列数据（电力负荷与光伏发电）上进行端到端训练，无需预处理或对分布做假设。
• 使用KL散度、Wasserstein距离和最大均值差异（MMD）等统计度量，量化真实数据与合成数据之间的分布相似性。
• 对比真实数据与合成数据在五个关键统计参数（基础负荷、峰值负荷、高负荷持续时间、上升/下降时间）上的表现，以评估生成数据的保真度。

实验结果

研究问题

• RQ1 VAE-GAN能否生成在统计与分布特性上接近真实电力负荷与光伏发电数据的合成智能家居数据？
• RQ2 与原始GAN相比，VAE-GAN在分布相似性与统计保真度方面表现如何？
• RQ3 在GAN生成器中引入VAE在多大程度上减少了模式崩溃并提升了数据多样性？
• RQ4 VAE-GAN模型是否在不同类型的智能家居数据（如负荷消耗与太阳能光伏发电）上均保持高性能？

主要发现

• 与原始GAN相比，VAE-GAN在电力负荷消耗数据上将合成数据与真实数据分布之间的Kullback–Leibler（KL）散度降低了97%。
• 对于光伏发电数据，VAE-GAN相比基线GAN实现了98%的KL散度降低。
• 使用VAE-GAN后，合成数据与真实数据之间的Wasserstein距离在负荷消耗上降低了52%，在光伏发电上降低了72%。
• 在MMD度量下，与原始GAN相比，VAE-GAN使负荷数据的分布差异减少了51%，光伏发电数据减少了48%。
• 在统计比较中，VAE-GAN在5个关键参数中的4个（基础负荷、峰值负荷、高负荷持续时间、上升时间）上最接近真实数据，其中峰值负荷最为准确（生成值119.85，真实值151.39）。
• VAE-GAN的平均基础负荷为1.73（标准差10.99），显著优于GAN的3.53（标准差22.34），更接近真实数据的9.75（标准差51.13）。