[論文レビュー] Wasserstein GAN: Deep Generation applied on Bitcoins financial time series

Samuel Rikli, Daniel Nico Bigler+2 more|arXiv (Cornell University)|Jul 13, 2021

Stock Market Forecasting Methods参考文献 18被引用数 4

ひとこと要約

本稿では、急激な価格変動の背後にある分布を学習するために敵対的訓練を活用する、LSTMを組み合わせたWGAN-GPを提案する。モデルは視覚的に区別できない合成データを生成するが、自己相関や尾部行動といった統計的性質には、実データと顕著な差が見られ、安定した学習を示す一方でハイパーパrameter最適化の余地がある。

ABSTRACT

Modeling financial time series is challenging due to their high volatility and unexpected happenings on the market. Most financial models and algorithms trying to fill the lack of historical financial time series struggle to perform and are highly vulnerable to overfitting. As an alternative, we introduce in this paper a deep neural network called the WGAN-GP, a data-driven model that focuses on sample generation. The WGAN-GP consists of a generator and discriminator function which utilize an LSTM architecture. The WGAN-GP is supposed to learn the underlying structure of the input data, which in our case, is the Bitcoin. Bitcoin is unique in its behavior; the prices fluctuate what makes guessing the price trend hardly impossible. Through adversarial training, the WGAN-GP should learn the underlying structure of the bitcoin and generate very similar samples of the bitcoin distribution. The generated synthetic time series are visually indistinguishable from the real data. But the numerical results show that the generated data were close to the real data distribution but distinguishable. The model mainly shows a stable learning behavior. However, the model has space for optimization, which could be achieved by adjusting the hyperparameters.

研究の動機と目的

• ビットコインのような高ボラティリティ資産の現実的な金融時系列を生成する課題に対処すること。
• 従来のモデルが金融データの非定常性、ファットテール、ボラティリティクラスタリングに対処できないという限界を克服すること。
• WGAN-GPにLSTMを組み合わせたモデルが、実際のビットコイン価格変動の統計的・時間的ダイナミクスをどれだけ正確に捉えられるかを評価すること。
• データ整合性とプライバシーを保ちながら、金融分野における深層生成モデルを用いた合成データ作成の可能性を検討すること。

提案手法

• 訓練の安定化とリプシッツ制約の強制のために、勾配ペナルティを用いたワッサーシュタインGAN（WGAN-GP）を採用する。
• 時系列データの逐次的依存関係をモデル化するために、生成器と識別器の両方で長短期記憶（LSTM）ネットワークを用いる。
• 生成器はランダムノイズを合成ビットコインリターンにマップするのを学習し、識別器（クライアント）は生成された系列の現実性を評価する。
• 最小最大損失に勾配ペナルティを適用することで、クライアントの勾配ノルムが1に近づくようにし、訓練の安定性を向上させる。
• ハイパーパrameterを安定性と収束性に合わせて調整した上で、歴史的ビットコイン日次リターンデータを用いて訓練を行う。
• 分布的および時間的忠実度を評価するために、視覚的比較、QQプロット、ACF解析、損失モニタリングを含む評価が行われる。

実験結果

リサーチクエスチョン

• RQ1 LSTMを組み合わせたWGAN-GPアーキテクチャは、実市場ダイナミクスに類似した合成ビットコイン時系列を効果的に生成できるか？
• RQ2 生成されたデータは、ファットテール、歪度、ボラティリティクラスタリングといった主要な統計的性質をどれだけ正確に保持しているか？
• RQ3 モデルは実金融リターンの自己相関構造をどの程度正確に捉えているか？
• RQ4 なぜ損失関数は収束するのではなく、最小値の周辺で振動を示すのか？
• RQ5 極端な値行動や尾部特性に関して、生成されたデータと実データはどのように比較できるか？

主な発見

• 生成された合成時系列は、実際のビットコインリターンと視覚的に区別がつかないため、強い知覚的類似性を示している。
• 統計的比較により、合成データの分布は左に歪んでおり、左側の尾部が重く、利益よりも大きな損失がより顕著に反映されている。
• 合成リターンのACFは、実データと比較してより高く、より変動しやすい自己相関を示しており、ボラティリティの強い持続性を示唆している。
• 生成器および識別器の損失関数は、最小値の周囲で安定して収束し、振動を示しているため、堅牢な訓練ダイナミクスが確認された。
• 視覚的類似性は高いが、モデルは極端な外れ値や尾部イベントを完全に再現できず、統計的差異が検出可能である。
• 全体として安定した学習行動を示しているが、損失の振動はハイパーパrameterチューニングやより長い訓練による改善の余地を示唆している。