[論文レビュー] If You Like It, GAN It—Probabilistic Multivariate Times Series Forecast with GAN

Alireza Koochali|arXiv (Cornell University)|Jul 8, 2021

Stock Market Forecasting Methods参考文献 28被引用数 29

ひとこと要約

この論文では、決定論的ポイント予測モデルをより正確な確率的同等物に変換する、条件付きGANベースの確率的多変量時系列予測モデルであるProbCastを提案する。決定論的モデルのアーキテクチャをGAN部品の設計に活用することで、安定した学習と電力および為替レートデータセットにおける優れた性能を達成し、それぞれCRPS∗で1.7%および17.2%の向上を達成した。

ABSTRACT

The contribution of this paper is two-fold. First, we present ProbCast—a novel probabilistic model for multivariate time-series forecasting. We employ a conditional GAN framework to train our model with adversarial training. Second, we propose a framework that lets us transform a deterministic model into a probabilistic one with improved performance. The motivation of the framework is to either transform existing highly accurate point forecast models to their probabilistic counterparts or to train GANs stably by selecting the architecture of GAN’s component carefully and efficiently. We conduct experiments over two publicly available datasets—an electricity consumption dataset and an exchange-rate dataset. The results of the experiments demonstrate the remarkable performance of our model as well as the successful application of our proposed framework.

研究の動機と目的

• 予測の不確実性を捉える確率的多変量時系列予測モデルの開発を目的とする。
• 時系列予測のためのGANの学習の不安定性と高次元のハイパーパrameter感受性を解決することを目的とする。
• 既存の決定論的予測器を性能を損なわせることなく、より正確な確率的モデルに変換するフレームワークを提案することを目的とする。
• GANベースの確率的予測が、小規模および大規模な多変量データセットの両方で決定論的ベースラインを上回ることを示すこと

提案手法

• ProbCastは、P(Xt+1|Xt, ..., X0)をモデル化するための条件付きGANフレームワークを採用し、将来の値の条件付き確率分布を学習する。
• 生成器はノイズベクトルzと決定論的バックボーン（GRU + MLP）を用いて多変量予測を生成し、事前に訓練された決定論的モデルから導出されたアーキテクチャを採用する。
• 識別器はGRUブロックに続いて全結合層を用いて、実際の将来の系列と生成された系列を区別する。これは敵対的損失を用いて訓練される。
• ハイブリッド損失関数は、標準的なGAN損失とCRPS∗に基づく目的関数を組み合わせ、確率的予測のキャリブレーションと鋭さを向上させる。
• フレームワークは、決定論的モデルの構造を再利用することで、GAN部品のアーキテクチャ探索空間を縮小するための遺伝的アルゴリズムを用いる。
• 入力ウィンドウサイズ、ノイズサイズ、GRU層の設定といったハイパーパrameterは、このフレームワークを用いて各データセットごとに最適化される。

実験結果

リサーチクエスチョン

• RQ1 安定した収束を伴う多変量時系列予測に、条件付きGANを効果的に訓練できるか？
• RQ2 決定論的ポイント予測モデルを、GANを用いて体系的により正確な確率的モデルに変換できるか？
• RQ3 提案されたフレームワークは、GANのアーキテクチャ探索空間を縮小しつつ、予測性能を向上させることができるか？
• RQ4 実世界のデータセットにおいて、得られた確率的モデルはその決定論的前身モデルと比べて、キャリブレーションと鋭さの点でどのように差を示すか？

主な発見

• 電力データセットでは、ProbCastがCRPS∗ 232.00を達成し、決定論的ベースライン（235.96）を上回り、1.7%の改善を示した。
• より小さな為替為替データセットでは、ProbCastがCRPS∗ 8.66×10⁻³を達成したのに対し、決定論的モデルは1.04×10⁻²であった。相対的に17.2%の改善が得られた。
• フレームワークは、決定論的モデルを確率的モデルに効果的に変換し、性能向上を実現した。決定論的モデルからのアーキテクチャ的先行知識が、GAN学習の安定性と性能を向上させることを示した。
• 特徴量数やデータサイズが異なるデータセットにわたり汎用性を示し、高次元（電力）および低次元（為替）時系列の両方で頑健であることを示した。
• CRPS∗を指標として用いることで、決定論的モデルと確率的モデルの直接比較が可能となり、ProbCastはより優れたキャリブレーションと鋭さを示した。
• 遺伝的アルゴリズムを用いたハイパーパrameter探索は、最適なアーキテクチャを効率的に同定でき、フレームワークがGANハイパーパrameterチューニングの負担を軽減できることを検証した。