[논문 리뷰] Conditional GAN for timeseries generation

Kaleb Smith, Anthony O. Smith|arXiv (Cornell University)|2020. 06. 30.

Time Series Analysis and Forecasting참고 문헌 34인용 수 63

한 줄 요약

TSGAN은 두 단계의 Wasserstein GAN(하나는 무조건적, 하나는 조건부)을 사용하여 스펙트로그램과 유사한 표현에서 현실적인 1D 시계열을 생성하고, 소샷 생성이 가능하도록 한다. 그것은 70개의 UCR 시계열 데이터 세트에서 기저 WGAN 대비 Fréchet Inception Distance(FID)와 분류 기반 평가에서 개선을 보인다.

ABSTRACT

It is abundantly clear that time dependent data is a vital source of information in the world. The challenge has been for applications in machine learning to gain access to a considerable amount of quality data needed for algorithm development and analysis. Modeling synthetic data using a Generative Adversarial Network (GAN) has been at the heart of providing a viable solution. Our work focuses on one dimensional times series and explores the few shot approach, which is the ability of an algorithm to perform well with limited data. This work attempts to ease the frustration by proposing a new architecture, Time Series GAN (TSGAN), to model realistic time series data. We evaluate TSGAN on 70 data sets from a benchmark time series database. Our results demonstrate that TSGAN performs better than the competition both quantitatively using the Frechet Inception Score (FID) metric, and qualitatively when classification is used as the evaluation criteria.

연구 동기 및 목표

• 금융, 의학, 과학과 같은 영역에서 실제 데이터가 제한된 상황에서 기계학습을 위한 합성 시계열 생성을 동기화한다.
• 스펙트로그램과 유사한 표현을 활용하여 시계열 생성을 가이드하는 새로운 이단계 아키텍처(TSGAN)를 제안한다.
• 적은 샘플 학습 능력과 생성 품질을 입증하기 위해 크고 다양한 1D 시계열 벤치마크에서 평가한다.
• 기저 WGAN과 비교하고 정량적, 정성적 결과를 분석하여 생성 시퀀스의 현실성 및 다양성을 검증한다.

제안 방법

• 무작위 잠재 벡터 z에서 2D 스펙트로그램 이미지를 생성하는 WGAN 1을 순서대로 사용한다.
• WGAN-GP(그래디언트 페널티)를 채택하여 1-리프시츠 제약을 강제하고 학습 안정화를 도모한다.
• WGAN 1의 출력에 조건부를 갖는 WGAN 2를 개별적으로 학습시키고, WGAN 2는 소샷 학습을 가능하게 하며 주파수 영역 정보를 포착하도록 한다.
• 시계열 생성을 잠재 공간을 스펙트로그램으로 변환한 다음 시간 영역 신호로 디코딩하는 방식으로 표현하고, 두 번째 제너레이터에 인코더와 유사한 구조를 활용한다.
• 완전 합성곱 네트워크(FCN)와 간단한 1D/2D 조건부 체계를 사용하여 실제 샘플과 생성 샘플 사이의 유사성을 평가하는 적응된 1D Fréchet Inception Distance(FID)와 함께 TSTR/TRTS 분류 기반 지표를 측정한다.

실험 결과

연구 질문

• RQ1 주파수-도메인 표현에 조건부를 거는 이단계 GAN 아키텍처가 학습 데이터가 제한된 상황에서 1D 시계열의 현실성과 다양성을 향상시킬 수 있는가?
• RQ2 첫 번째 GAN의 스펙트로그램과 유사한 출력을 두 번째 GAN이 조건으로 삼으면 단일 GAN 방식보다 시계열 합성이 더 나아지는가?
• RQ3 제안된 방법이 소샷 학습 시나리오에서 대규모의 다양한 단변량 시계열에 대해 데이터의 현실성과 다운스트림 분류 성능 측면에서 어떻게 수행하는가?

주요 결과

• TSGAN은 여러 데이터 세트에서 1D FID 점수에서 기저 WGAN보다 우수하게 나타난다(예: Beef: 207.1은 TSGAN, WGAN은 638.8).
• Gun Point 데이터 세트에서 TSGAN은 FID 4.778로, WGAN의 39.95보다 현저한 향상을 보이며 생성 신호의 현실성을 시사한다.
• TSGAN은 일반적으로 FID 점수를 더 낮게, 시각적으로 더 선명하고 정확한 시계열 샘플을 WGAN보다 여러 데이터 세트에서 얻어내며, 특히 작은 및 중간 학습 크기에서 강한 성능을 보인다.
• 분류 기반 평가(TRTS 및 TSTR) 측면에서 TSGAN은 대다수 데이터 세트에서 WGAN보다 우수하며, 합성 데이터를 학습에 사용한 경우 하류 FCN 정확도에 명확한 이득을 보이는 데이터 세트가 다수이다.
• TSGAN은 강력한 소샷 학습 능력을 시현하여 제한된 학습 샘플로도 많은 데이터 세트에서 WGAN보다 더 나은 결과를 제공한다(작은 및 중간 부분집합에서 개선이 두드러진다).
• 두 번째 WGAN이 첫 번째 WGAN이 생성한 스펙트로그램-유사 표현에서 디코딩하는 조건화 메커니즘은 더 풍부한 잠재 정보를 제공하고 생성 신호의 시간적 및 주파수 특성을 개선하는 것으로 보인다.