[论文解读] Conditional Sig-Wasserstein GANs for Time Series Generation

Shujian Liao, Hao Ni+4 more|arXiv (Cornell University)|Jun 9, 2020

Generative Adversarial Networks and Image Synthesis参考文献 29被引用 18

一句话总结

本文提出条件Sig-Wasserstein GAN（SigCWGAN），一种新颖的框架，利用粗糙路径理论中的路径签名来建模给定过去观测值的未来时间序列的条件分布。通过使用签名特征空间显式表示$W_1$-Wasserstein距离，该方法实现了无需昂贵判别器近似的高效训练，在合成数据集和真实世界数据集（包括股票价格和比特币-美元数据）上均实现了生成逼真多变量时间序列的最先进性能。

ABSTRACT

Generative adversarial networks (GANs) have been extremely successful in generating samples, from seemingly high dimensional probability measures. However, these methods struggle to capture the temporal dependence of joint probability distributions induced by time-series data. Furthermore, long time-series data streams hugely increase the dimension of the target space, which may render generative modelling infeasible. To overcome these challenges, motivated by the autoregressive models in econometric, we are interested in the conditional distribution of future time series given the past information. We propose the generic conditional Sig-WGAN framework by integrating Wasserstein-GANs (WGANs) with mathematically principled and efficient path feature extraction called the signature of a path. The signature of a path is a graded sequence of statistics that provides a universal description for a stream of data, and its expected value characterises the law of the time-series model. In particular, we develop the conditional Sig-$W_1$ metric, that captures the conditional joint law of time series models, and use it as a discriminator. The signature feature space enables the explicit representation of the proposed discriminators which alleviates the need for expensive training. We validate our method on both synthetic and empirical dataset and observe that our method consistently and significantly outperforms state-of-the-art benchmarks with respect to measures of similarity and predictive ability.

研究动机与目标

• 解决使用数据驱动、非参数方法对高维多变量时间序列中的复杂时间依赖关系进行建模的挑战。
• 克服标准GAN在高维性及复杂时空交互作用下难以捕捉时间序列联合分布的局限性。
• 开发一种条件生成模型，学习在给定过去观测值下未来时间序列的分布，从而支持预测与反事实生成。
• 通过用显式的签名-based $W_1$距离近似替代隐式的判别器学习，降低训练复杂度。
• 在合成数据集和实证数据集上验证该方法，证明其在分布相似性和预测准确性方面的卓越性能。

提出的方法

• 该方法将Wasserstein GAN（WGAN）与路径的签名相结合——路径签名是一种时间序列数据的通用、分层次的特征表示，能够捕捉到指定深度内的时序动态。
• 提出条件Sig-$W_1$距离度量，通过比较给定过去路径下未来路径的期望签名，量化时间序列条件分布之间的距离。
• 判别器通过签名特征显式构建，无需端到端训练神经网络判别器。
• 生成器被训练以最小化真实与生成未来时间序列之间的条件Sig-$W_1$距离，条件为过去的时间段。
• 框架使用滑动窗口从单个长时间序列中提取多个训练样本，提升数据效率。
• 模型基于基于签名的$W_1$度量采用极小化极大目标进行训练，实现稳定且高效的优化。

实验结果

研究问题

• RQ1 路径签名能否用于构建用于条件时间序列生成的高效且可解释的判别器？
• RQ2 条件Sig-$W_1$度量是否能有效捕捉时间序列的联合分布，同时保持时间依赖性？
• RQ3 基于签名的$W_1$度量能否替代训练深层神经网络判别器的需求，从而简化训练并提升稳定性？
• RQ4 SigCWGAN框架在建模真实世界时间序列的边缘分布、自相关性及预测$R^2$方面，相较于最先进GAN模型表现如何？
• RQ5 该方法在不同时间序列模态（如金融收益与加密货币价格）之间的泛化能力如何？

主要发现

• 在SPX和DJI数据集上，SigCWGAN实现了最低的边缘分布误差（0.47107）和自相关误差（0.04075），优于所有基线模型，包括GAN和GARCH模型。
• 在比特币-美元数据集上，SigCWGAN的$R^2$得分为0.3320，略低于RCGAN（0.3165），但在边缘分布（2.0532 vs. 2.8603）和自相关性（0.091 vs. 0.0532）方面显著优于后者。
• 该方法在捕捉交叉相关结构方面表现优异，如图9所示，合成矩阵在结构和幅度上均与真实矩阵高度匹配。
• 自相关函数图（图10）证实，SigCWGAN生成的时间序列保留了长程时间依赖性，其与真实ACF的绝对差值之和最小。
• 该模型在合成数据集和实证数据集上均取得了最先进水平的结果，且在分布相似性和预测能力指标上持续提升。
• 显式使用签名特征消除了训练深层神经网络判别器的需求，显著简化了训练过程并提升了收敛稳定性。