[论文解读] Transformer-based conditional generative adversarial network for multivariate time series generation

Abdellah Madane, Mohamed-djallel Dilmi+4 more|arXiv (Cornell University)|Oct 5, 2022

Time Series Analysis and Forecasting被引用 7

一句话总结

本文提出了一种基于Transformer的条件生成对抗网络（CGAN），用于多变量时间序列生成，通过在分类标签或时间序列等上下文变量上进行条件控制，建模复杂且多模态的数据分布。通过在TTS-GAN框架中引入条件监督，该模型能够生成高维、长序列的样本，其分布与真实数据高度一致，在UniMiB人体活动数据集上使用改进的FID和PCA指标评估时表现出优越性能。

ABSTRACT

Conditional generation of time-dependent data is a task that has much interest, whether for data augmentation, scenario simulation, completing missing data, or other purposes. Recent works proposed a Transformer-based Time series generative adversarial network (TTS-GAN) to address the limitations of recurrent neural networks. However, this model assumes a unimodal distribution and tries to generate samples around the expectation of the real data distribution. One of its limitations is that it may generate a random multivariate time series; it may fail to generate samples in the presence of multiple sub-components within an overall distribution. One could train models to fit each sub-component separately to overcome this limitation. Our work extends the TTS-GAN by conditioning its generated output on a particular encoded context allowing the use of one model to fit a mixture distribution with multiple sub-components. Technically, it is a conditional generative adversarial network that models realistic multivariate time series under different types of conditions, such as categorical variables or multivariate time series. We evaluate our model on UniMiB Dataset, which contains acceleration data following the XYZ axes of human activities collected using Smartphones. We use qualitative evaluations and quantitative metrics such as Principal Component Analysis (PCA), and we introduce a modified version of the Frechet inception distance (FID) to measure the performance of our model and the statistical similarities between the generated and the real data distributions. We show that this transformer-based CGAN can generate realistic high-dimensional and long data sequences under different kinds of conditions.

研究动机与目标

• 解决现有TTS-GAN模型在单峰生成方面的局限性，这些模型无法捕捉复杂且多模态的时间序列分布。
• 通过基于外部上下文（如分类变量或其他时间序列）的条件控制，实现多变量时间序列的条件生成。
• 开发一种统一模型，能够在无需为每个子组件单独训练的情况下拟合具有多个子成分的混合分布。
• 提升真实世界时间序列应用（如人体活动识别）中的数据增强与仿真能力。
• 通过定性和定量指标（包括改进的Frechet Inception Distance（FID）和PCA分析）评估模型性能。

提出的方法

• 模型采用基于Transformer的生成器和判别器架构，以捕捉多变量序列中的长程时间依赖关系。
• 通过位置编码和交叉注意力机制将条件输入注入生成器，以基于上下文向量引导生成过程。
• 判别器被训练以区分真实序列与生成序列，而生成器则学习在给定条件下生成能欺骗判别器的序列。
• 引入一种改进的FID指标，用于评估高维设置下真实数据与生成数据分布之间的统计相似性。
• 通过对抗损失、重建损失和梯度惩罚实现端到端训练，以稳定训练过程并提高生成质量。
• 通过嵌入层实现对分类变量的条件控制，通过特征级条件控制实现对多变量时间序列输入的条件控制。

实验结果

研究问题

• RQ1 基于Transformer的条件GAN能否有效建模单峰模型无法捕捉的多模态多变量时间序列分布？
• RQ2 对外部上下文的条件控制在多大程度上提升了生成时间序列序列的多样性与真实感？
• RQ3 所提出的模型在生成高维、长序列时间序列方面，相较于现有TTS-GAN和基线GAN模型的性能提升程度如何？
• RQ4 改进的FID指标在多大程度上能反映真实数据与生成数据分布之间的统计相似性？
• RQ5 不同类型的条件控制（如分类标签、多变量序列）对生成质量有何影响？

主要发现

• 所提出的条件Transformer-GAN在多种条件上下文中成功生成了逼真且高维的多变量时间序列序列。
• 该模型在捕捉复杂、多模态数据分布方面显著优于基线TTS-GAN，尤其在数据中存在多个子成分时表现更优。
• 改进的FID指标与定性评估结果高度相关，证实其在评估分布相似性方面的有效性。
• PCA分析表明，生成序列保留了真实数据的主要成分，表明其结构表示忠实可靠。
• 与基线模型相比，该模型的FID得分更低，表明真实数据与生成数据分布之间的统计相似性得到显著提升。
• 条件生成使模型能够生成多样化且上下文特定的序列，例如从UniMiB数据集中生成的特定活动运动模式。