[논문 리뷰] Conditional Sig-Wasserstein GANs for Time Series Generation

Shujian Liao, Hao Ni외 4명|arXiv (Cornell University)|2020. 06. 09.

Generative Adversarial Networks and Image Synthesis참고 문헌 29인용 수 18

한 줄 요약

이 논문은 근본적 경로 이론에서 유래한 경로 서술자(패스 서술자)를 활용하여 과거 관측치를 바탕으로 미래 시계열의 조건부 분포를 모델링하는 새로운 프레임워크인 조건부 시그너처-워샤우르스타인 GAN(SigCWGANs)을 제안한다. $W_1$-워샤우르스타인 거리의 명시적 표현을 위해 서술자 특징 공간을 사용함으로써, 비용이 많이 드는 판별기 근사가 필요 없이 효율적인 훈련을 가능하게 하여, 주식 가격 및 비트코인-달러 데이터를 포함한 합성 및 실세계 데이터셋에서 현실적인 다변량 시계열을 생성하는 데 있어 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Generative adversarial networks (GANs) have been extremely successful in generating samples, from seemingly high dimensional probability measures. However, these methods struggle to capture the temporal dependence of joint probability distributions induced by time-series data. Furthermore, long time-series data streams hugely increase the dimension of the target space, which may render generative modelling infeasible. To overcome these challenges, motivated by the autoregressive models in econometric, we are interested in the conditional distribution of future time series given the past information. We propose the generic conditional Sig-WGAN framework by integrating Wasserstein-GANs (WGANs) with mathematically principled and efficient path feature extraction called the signature of a path. The signature of a path is a graded sequence of statistics that provides a universal description for a stream of data, and its expected value characterises the law of the time-series model. In particular, we develop the conditional Sig-$W_1$ metric, that captures the conditional joint law of time series models, and use it as a discriminator. The signature feature space enables the explicit representation of the proposed discriminators which alleviates the need for expensive training. We validate our method on both synthetic and empirical dataset and observe that our method consistently and significantly outperforms state-of-the-art benchmarks with respect to measures of similarity and predictive ability.

연구 동기 및 목표

• 데이터 기반의 비모수적 방법을 사용하여 고차원의 다변량 시계열에서 복잡한 시간적 종속성을 모델링하는 데 도전하는 것.
• 고차원성과 복잡한 시간-공간 상호작용으로 인해 표준 GAN이 시간 시계열의 공동 법칙을 포착하는 데 어려움을 겪는 문제를 해결하는 것.
• 과거 관측치를 바탕으로 미래 시계열의 분포를 학습하는 조건부 생성 모델을 개발하여 예측 및 반사적 생성을 가능하게 하는 것.
• 암묵적인 판별기 학습을 대체하여 명시적인 서술자 기반 $W_1$ 거리 근사로 훈련 복잡도를 감소시키는 것.
• 합성 및 실증 데이터셋에서의 방법 검증을 통해 분포 유사성 및 예측 정확성에서 뛰어난 성능을 보여주는 것.

제안 방법

• 이 방법은 워샤우르스타인 GAN(WGANs)과 시계열 데이터의 보편적이고 계층적인 특징 표현인 경로의 서술자를 통합한다. 이 서술자는 특정 깊이까지 시간 역동성을 포착한다.
• 조건부 Sig-$W_1$ 거리라는 개념을 도입하여, 과거 경로를 기반으로 한 미래 경로의 기대 서술자를 비교함으로써 조건부 법칙 간의 거리를 측정한다.
• 판별기는 서술자 특징을 명시적으로 구성함으로써, 신경망 비평가의 종단 간 훈련이 필요 없어진다.
• 생성자는 과거 세그먼트를 조건으로 하여 실제와 생성된 미래 시계열 간의 조건부 Sig-$W_1$ 거리를 최소화하도록 훈련된다.
• 단일 장기 시계열에서 여러 훈련 샘플을 추출하기 위해 슬라이딩 윈도우 기법을 사용하여 데이터 효율성을 높인다.
• 서술자 기반 $W_1$ 거리에 기반한 최소-최대 목표 함수를 사용하여 안정적이고 효율적인 최적화가 가능해진다.

실험 결과

연구 질문

• RQ1 경로의 서술자를 사용하여 조건부 시계열 생성을 위한 효율적이고 해석 가능한 판별기를 구성할 수 있는가?
• RQ2 조건부 Sig-$W_1$ 거리가 시간적 종속성을 유지하면서도 시간 시계열의 공동 법칙을 효과적으로 포착하는가?
• RQ3 서술자 기반 $W_1$ 거리가 깊은 신경망 판별기 학습이 필요 없도록 대체할 수 있는가? 이는 훈련을 단순화하고 안정성을 향상시키는가?
• RQ4 실세계 시계열에서 변량 분포, 자기상관 및 예측 $R^2$를 모델링하는 데 있어 SigCWGAN 프레임워크는 최신 기술 수준의 GAN들과 비교해 어떤가?
• RQ5 금융 수익률 및 암호화폐 가격과 같은 다양한 시계열 모odalities 간에서 이 방법이 얼마나 일반화되는가?

주요 결과

• SPX 및 DJI 데이터셋에서 SigCWGAN은 가장 낮은 변량 분포 오차(0.47107)와 자기상관 오차(0.04075)를 기록하여, GAN 및 GARCH 모델을 포함한 모든 베이스라인을 압도했다.
• 비트코인-달러 데이터셋에서는 $R^2$ 점수 0.3320을 기록하여 RCGAN(0.3165)에 약간 뒤지긴 했지만, 변량 분포(2.0532 vs. 2.8603)와 자기상관(0.091 vs. 0.0532) 측면에서 뚜렷한 우월성을 보였다.
• 그림 9에서 보듯이, 이 방법은 교차상관 구조를 뛰어나게 잘 포착했으며, 합성 행렬이 실제 행렬과의 구조와 크기에서 매우 유사했다.
• ACF 플롯(그림 10)은 SigCWGAN이 생성한 시계열이 장기적인 시간적 종속성을 잘 유지했음을 확인했으며, 실제 ACF와의 절대차합이 가장 작았다.
• 합성 및 실증 데이터셋 모두에서 최신 기술 수준의 성능을 달성했으며, 분포 유사성 및 예측 능력 측정 지표에서 일관된 향상이 있었다.
• 서술자 특징의 명시적 사용으로 인해 깊은 신경망 판별기 학습이 필요 없어졌으며, 이는 훈련을 크게 단순화하고 수렴 안정성을 향상시켰다.