[論文レビュー] Forecasting Across Time Series Databases using Recurrent Neural Networks on Groups of Similar Series: A Clustering Approach

Kasun Bandara, Christoph Bergmeir+1 more|arXiv (Cornell University)|Oct 9, 2017

Stock Market Forecasting Methods被引用数 4

ひとこと要約

この論文では、類似した時系列データのグループに分類することで、大規模な時系列データベースにおける予測精度を向上させるクラスタリングベースのフレームワークを提案する。類似した系列をクラスタリングし、各サブグループに対してLSTMネットワークを訓練することで、グローバルLSTMモデルや従来の単変量手法よりも優れた性能を発揮し、CIF2016コンペティションデータセットでは最先端の結果を達成するとともに、NN5においてもベースラインLSTMを一貫して上回る。

ABSTRACT

With the advent of Big Data, nowadays in many applications databases containing large quantities of similar time series are available. Forecasting time series in these domains with traditional univariate forecasting procedures leaves great potentials for producing accurate forecasts untapped. Recurrent neural networks (RNNs), and in particular Long Short-Term Memory (LSTM) networks, have proven recently that they are able to outperform state-of-the-art univariate time series forecasting methods in this context when trained across all available time series. However, if the time series database is heterogeneous, accuracy may degenerate, so that on the way towards fully automatic forecasting methods in this space, a notion of similarity between the time series needs to be built into the methods. To this end, we present a prediction model that can be used with different types of RNN models on subgroups of similar time series, which are identified by time series clustering techniques. We assess our proposed methodology using LSTM networks, a widely popular RNN variant. Our method achieves competitive results on benchmarking datasets under competition evaluation procedures. In particular, in terms of mean sMAPE accuracy, it consistently outperforms the baseline LSTM model and outperforms all other methods on the CIF2016 forecasting competition dataset.

研究の動機と目的

• 異種の時系列データベースにグローバルLSTMモデルを適用した場合に生じる予測精度の低下を是正すること。
• 類似した時系列同士をグループ化することで、系列間の類似性を活用し、より正確なサブグループ特化型の予測を実現すること。
• クラスタリングと再帰的ニューラルネットワークを統合したスケーラブルで自動化されたフレームワークを構築し、ビッグデータ時代の時系列予測応用における性能向上を図ること。
• 標準化されたコンペティション評価プロトコルに従ってベンチマークデータセット上で手法を評価し、性能向上の有効性を検証すること。

提案手法

• 形状、トレンド、季節性に基づいて類似した系列を特定するため、非教師ありクラスタリング手法を用いて時系列をクラスタリングする。
• 各クラスタに対して個別のLSTMモデルを訓練することで、類似した系列に特化したパターンを学習するとともに、グループ内での共有情報の恩恵を受ける。
• 二段階の訓練プロセスを採用する：まず時系列をクラスタリングし、その後各クラスタのデータに対して個別にLSTMを訓練する。
• 固定原点およびローリング原点の両方の予測設定を用いて評価することで、評価プロトコルにかかわらず堅牢性を確認する。
• LSTMの変種（グローバルLSTM（LSTM.All）とクラスタベースLSTM（LSTM.Cluster））を用いて性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 大規模なデータベースにおける再帰的ニューラルネットワークの応用において、類似した時系列をクラスタリングすることで予測精度が向上するか？
• RQ2 すべての系列にわたって訓練されたグローバルLSTMモデルと比較して、クラスタベースのLSTMモデルの性能はどのように異なるか？
• RQ3 提案手法は、多様な時系列を含むベンチマークデータセットにおいて、最先端の単変量予測手法を上回るか？
• RQ4 サブグループモデリングによる改善は、ベースラインモデルと比較して統計的に有意であるか？

主な発見

• CIF2016予測コンペティションデータセットにおいて、LSTM.Clusterモデルは平均sMAPEの観点で全手法の中で最高の順位を達成し、最も優れた性能を示した。
• NN5データセットにおいて、LSTM.Clusterモデルは平均sMAPEで全体で6位の順位を記録し、すべての誤差指標においてグローバルLSTM_Allベースラインを一貫して上回った。
• 対応したWilcoxon符号順位検定の結果、LSTM.ClusterとLSTM_Allの差は極めて有意であった（p = 7.22 × 10⁻⁴）、クラスタリングの有効性を裏付けた。
• アラインドFriedman検定を用いた統計的検定ではp値が6.59 × 10⁻¹¹に達し、結果の全体的な有意性が強く示された。
• LSTM.Clusterモデルは指数平滑法のベンチマーク（ETSおよびES）と比較して有意に劣る性能を示さなかった一方、グローバルLSTM_Allモデルは制御手法よりも有意に劣った。
• 固定原点およびローリング原点の両方の評価において、中央値sMAPE、平均MASE、順位ベースの指標において一貫した改善が確認された。