[論文レビュー] Conditional GAN for timeseries generation

Kaleb Smith, Anthony O. Smith|arXiv (Cornell University)|Jun 30, 2020

Time Series Analysis and Forecasting参考文献 34被引用数 63

ひとこと要約

TSGAN は二段階の Wasserstein GAN（1つは無条件、1つは条件付き）を用いてスペクトログラム様表現から現実的な1D時系列を生成し、few-shot generation を可能にします。70個の UCR 時系列データセットに対して、基準 WGAN より Fréchet Inception Distance および分類ベースの評価が改善されました。

ABSTRACT

It is abundantly clear that time dependent data is a vital source of information in the world. The challenge has been for applications in machine learning to gain access to a considerable amount of quality data needed for algorithm development and analysis. Modeling synthetic data using a Generative Adversarial Network (GAN) has been at the heart of providing a viable solution. Our work focuses on one dimensional times series and explores the few shot approach, which is the ability of an algorithm to perform well with limited data. This work attempts to ease the frustration by proposing a new architecture, Time Series GAN (TSGAN), to model realistic time series data. We evaluate TSGAN on 70 data sets from a benchmark time series database. Our results demonstrate that TSGAN performs better than the competition both quantitatively using the Frechet Inception Score (FID) metric, and qualitatively when classification is used as the evaluation criteria.

研究の動機と目的

• 金融、医療、科学などの領域で実データが限られる機械学習のための合成時系列生成を動機づける。
• スペクトログラム様表現を活用して時系列生成を誘導する新規の二段階アーキテクチャ（TSGAN）を提案する。
• 少数ショット学習能力と生成品質を示すために大規模で多様な1D時系列ベンチマークで評価する。
• 基準となる WGAN と比較し、定量的および定性的結果を分析して生成系列のリアルさと多様性を検証する。

提案手法

• 二つの Wasserstein GAN を連続して使用する。WGAN 1 はランダム潜在ベクトル z から2Dスペクトログラム画像を生成する。WGAN 2 はスペクトログラム画像を条件として受け取り1D時系列を生成する。
• 1-Lipschitz 条件を課すためにWGAN-GP（勾配ペナルティ）を採用し、訓練を安定化させる。
• WGAN 1 と WGAN 2 を独立に訓練し、WGAN 2 は WGAN 1 の出力を条件として少数ショット学習を可能にし、周波数領域情報を捉える。
• 時系列生成を潜在空間をスペクトログラムへ変換し、そこから時系列信号へデコードする形として表現し、第二の生成器のエンコーダ様構造を活用する。
• 実データと生成データの類似性を測るために完全畳み込みネットワーク（FCN）と単純な1D/2D 条件付け方式を用い、適用された1D Fréchet Inception Distance (FID) による評価と、TSTR/TRTS の分類ベース指標を行う。

実験結果

リサーチクエスチョン

• RQ1 周波数領域表現を条件とする二段階 GAN アーキテクチャは、限られた訓練データでの1D時系列のリアリズムと多様性を改善できるか？
• RQ2 最初の GAN のスペクトログラム様出力を条件として2番目の GAN を用いることで、単一 GAN アプローチより時系列合成が改善されるか？
• RQ3 提案手法は、few-shot 訓練シナリオにおいて大規模で多様な一変量時系列セットで、近似的なデータリアリズムと下流分類性能の観点でどう機能するか？

主な発見

• TSGAN は複数のデータセットで1D FID スコアにおいて基準 WGAN を上回る（例：Beef: 207.1 for TSGAN vs 638.8 for WGAN）。
• Gun Point データセットでは、TSGAN の FID が 4.778、WGAN は 39.95 で、生成信号のリアリズムに顕著な改善を示す。
• TSGAN は一般に FID が低く、視覚的にも鋭く正確な時系列サンプルを生成する傾向があり、小〜中程度の訓練サイズで特に顕著。
• 分類ベースの評価（TRTS および TSTR）では、多くのデータセットで WGAN を上回り、いくつかのデータセットで合成データで訓練した場合の下流 FCN 精度が明らかに向上。
• TSGAN は強力な few-shot 学習能力を示し、訓練サンプルが少ない多くのデータセットで WGAN より良い結果を出す（小〜中規模サブセットで改善が支配的）。
• 条件付けの機構は、第一の WGAN が生成するスペクトログラム様表現から第二の WGAN がデコードすることで、より豊かな潜在情報を提供し、生成信号の時間および周波数特性を改善するようだ。