[論文レビュー] Dynamic Prediction Length for Time Series with Sequence to Sequence Networks

Mark E. Harmon, Diego Klabjan|arXiv (Cornell University)|Jul 2, 2018

Stock Market Forecasting Methods被引用数 5

ひとこと要約

本論文は、時系列予測におけるsequence-to-sequenceモデルに対して、モデルの信頼度に基づいて可変長の出力予測を可能にする動的予測長メカニズムを提案する。信頼度に基づく損失関数と特化した勾配計算を導入することで、固定長のベースラインを上回る性能を達成し、ETFデータではF1スコア0.503を達成。これは標準LSTMの2倍以上であり、証券のボラティリティに応じて自然に予測長を調整する。

ABSTRACT

Recurrent neural networks and sequence to sequence models require a predetermined length for prediction output length. Our model addresses this by allowing the network to predict a variable length output in inference. A new loss function with a tailored gradient computation is developed that trades off prediction accuracy and output length. The model utilizes a function to determine whether a particular output at a time should be evaluated or not given a predetermined threshold. We evaluate the model on the problem of predicting the prices of securities. We find that the model makes longer predictions for more stable securities and it naturally balances prediction accuracy and length.

研究の動機と目的

• RNNおよびseq2seqモデルにおける時系列予測の固定長出力予測の制限を解決すること。
• 推論時に各出力ステップの信頼度に基づいて、可変長の予測を生成できるようにすること。
• 信頼度推定を組み込むことで、予測精度と出力長のバランスを取る新しい損失関数の開発。
• 個々の証券に適した動的予測期間を許容することで、ボラティリティの高い金融時系列の予測性能を向上させること。
• 固定長モデルに比べて動的予測長がF1スコアを向上させ、特にボラティリティ分布が非対称なデータセットにおいてより強固な予測を実現することを示すこと。

提案手法

• ベイジアン手法に依存せずに各予測ステップにおけるモデルの信頼度を定量化するための信頼度距離（CD）指標を提案する。
• 予測精度と出力長を組み合わせた新しい損失関数を設計し、しきい値を設定した信頼度スコアを用いて予測生成を停止するタイミングを決定する。
• 可変長出力を入力シーケンス長に依存せずに実現するため、シグモイドマスキング関数を実装する。
• アテンションを備えたsequence-to-sequenceアーキテクチャを用い、デコーダーが段階的に予測を生成し、信頼度に基づく停止基準を適用する。
• 誤差逆伝播中に異なる出力長を扱うために、勾配計算を最適化し、安定した学習を確保する。
• ウォークフォワード検証を用いて、実世界の予測シナリオを模倣するように、複数の証券を含む金融時系列データでモデルを学習する。

実験結果

リサーチクエスチョン

• RQ1 トレーニング段階で固定長出力シーケンスを必要とせず、推論時に信頼度に基づいて予測長を動的に調整できるか。
• RQ2 提案された信頼度ベースの損失関数は、異なる時系列においてF1スコアと予測長のバランスを取る点で、標準損失関数と比較してどのように優れているか。
• RQ3 低ボラティリティ証券に対しては長期間の予測、高ボラティリティ証券に対しては短期間の予測を生成できる能力が、全体の予測性能を向上させるか。
• RQ4 信頼度関数（CD、TV、EMD）およびマスキング戦略（インジケータ関数対シグモイド）の違いが、モデルの性能と頑健性に与える影響は何か。
• RQ5 動的予測モデルは、ボラティリティプロファイルが異なる多様な金融時系列において、固定長モデルを上回る性能を示せるか。

主な発見

• 動的予測長モデルはETFデータセットでF1スコア0.503を達成し、固定長出力の標準LSTMモデル（F1 = 0.209）を著しく上回った。
• 信頼度距離（CD）とシグモイドマスキングを組み合わせたモデルが最高の性能を示し、ETFデータセットでは最良の固定長モデル比でF1スコアを6.45%向上させた。
• 5商品データセットでは、すべての固定長モデル（1, 4, 7, 10ステップ予測）を上回り、最良の固定長ベースライン比で相対的にF1スコアを21.2%向上させた。
• モデルは自然に低ボラティリティ証券に対して長期間の予測、高ボラティリティ証券に対しては短期間の予測を生成し、市場状況に応じた適応的挙動を示した。
• シグモイドマスキング関数はインジケータ関数を常に上回ったが、しきい値パラメータτの調整が慎重に行われる必要があった。
• 最適な設定は、CD指標とシグモイドマスキングを用い、τ ∈ [0.05, 0.5] かつ λ ≤ 1.0 であり、F1スコアと予測長の最良のトレードオフを達成した。