[論文レビュー] ATM Cash demand forecasting in an Indian Bank with chaos and deep learning

Vangala Sarveswararao, Vadlamani Ravi|arXiv (Cornell University)|Aug 24, 2020

Stock Market Forecasting Methods参考文献 35被引用数 6

ひとこと要約

本研究では、インドの商業銀行におけるATM現金需要を予測するために、カオス理論とディープラーニングを組み合わせたハイブリッド手法を提案する。遅れと埋め込み次元を用いた状態空間の再構築、週の曜日をワンホットエンコーディングした特徴量の組み込み、LSTM や 1D CNN などのモデルの適用により、予測精度が向上した。t検定と SMAPE 指標による検証により、ディープラーニングモデルはランダムフォレストと同等の性能を示した。

ABSTRACT

This paper proposes to model chaos in the ATM cash withdrawal time series of a big Indian bank and forecast the withdrawals using deep learning methods. It also considers the importance of day-of-the-week and includes it as a dummy exogenous variable. We first modelled the chaos present in the withdrawal time series by reconstructing the state space of each series using the lag, and embedding dimension found using an auto-correlation function and Cao's method. This process converts the uni-variate time series into multi variate time series. The "day-of-the-week" is converted into seven features with the help of one-hot encoding. Then these seven features are augmented to the multivariate time series. For forecasting the future cash withdrawals, using algorithms namely ARIMA, random forest (RF), support vector regressor (SVR), multi-layer perceptron (MLP), group method of data handling (GMDH), general regression neural network (GRNN), long short term memory neural network and 1-dimensional convolutional neural network. We considered a daily cash withdrawals data set from an Indian commercial bank. After modelling chaos and adding exogenous features to the data set, we observed improvements in the forecasting for all models. Even though the random forest (RF) yielded better Symmetric Mean Absolute Percentage Error (SMAPE) value, deep learning algorithms, namely LSTM and 1D CNN, showed similar performance compared to RF, based on t-test.

研究の動機と目的

• ATM現金引き出し時系列におけるカオス的ダイナミクスを、状態空間再構築を用いてモデル化すること。
• 週の曜日をカテゴリカルな外部変数としてワンホットエンコーディングにより組み込むことで、予測精度を向上させること。
• 再構築および拡張されたデータ上で、ARIMA、RF、SVR、MLP、GMDH、GRNN、LSTM、1D CNN といった多様なモデルの性能を評価すること。
• SMAPE および統計的有意性の観点から、ディープラーニングモデル（LSTM、1D CNN）と従来の機械学習および統計モデルを比較すること。
• カオスモデリングと特徴工学が、すべての予測モデルにおいて一貫した改善をもたらすことを示すこと。

提案手法

• 自己相関および Cao の手法を用いて導出された最適な遅れおよび埋め込み次元を用いて、単変量のATM現金引き出し時系列の状態空間を時間遅れ埋め込みにより再構築した。
• 状態空間再構築により単変量時系列を多変量時系列に変換し、背後にある決定論的ダイナミクスを捉えた。
• 週の曜日をワンホットエンコーディングにより7つのバイナリ特徴量に変換し、週次周期性を表現した。
• ワンホットエンコーディングされた週の曜日特徴量を多変量時系列に追加し、より豊かな入力表現を構築した。
• 強化されたデータセット上で、ARIMA、ランダムフォレスト（RF）、サポートベクターレグレッサー（SVR）、マルチレイヤーパーセプトロン（MLP）、GMDH、GRNN、LSTM、1D CNN の複数のモデルを訓練および評価した。
• モデル性能の比較および統計的有意性の評価に、対応したt検定と対称平均絶対誤差パcentage誤差（SMAPE）を用いた。

実験結果

リサーチクエスチョン

• RQ1 時間遅れ埋め込みを用いた状態空間再構築により、ATM現金引き出しパターンのカオス的ダイナミクスを効果的にモデル化できるか？
• RQ2 ワンホットエンコーディングされた週の曜日特徴量を組み込むことで、複数のモデルにおける予測精度が向上するか？
• RQ3 LSTM や 1D CNN といったディープラーニングモデルは、RF や SVR、ARIMA といった従来モデルに比べ、ATM現金需要予測においてどのように性能を発揮するか？
• RQ4 カオスモデリングと特徴量拡張による性能向上は、異なるアルゴリズム全体で統計的に有意であるか？
• RQ5 LSTM や 1D CNN は、SMAPE および統計的有意性の観点から、最高性能を示したモデル（ランダムフォレスト）と同等の予測精度を達成できるか？

主な発見

• 状態空間再構築によるカオスモデリングの統合が、すべてのテスト対象モデルにおいて予測性能の顕著な向上をもたらした。
• 週の曜日をワンホットエンコーディングした特徴量の組み込みにより、モデルの精度が向上し、特に週次パターンの捉え込みが強化された。
• ランダムフォレスト（RF）が、対称平均絶対誤差パーセンテージ誤差（SMAPE）を最低に抑え、テストされたすべてのモデルの中で予測精度が最も優れていた。
• 長短期記憶（LSTM）および1次元畳み込みニューラルネットワーク（1D CNN）モデルは、対応したt検定による統計的有意差なしに、RF と同等の性能を示した。
• カオスモデリングと外部特徴量の工学的処理の組み合わせが、すべてのアルゴリズムにおいて一貫した予測精度の向上をもたらし、提案手法の有効性を裏付けた。
• 本研究は、特にカオスに裏付けられた特徴量を組み込んだ場合、ディープラーニングモデル（特にLSTMおよび1D CNN）が従来モデルに匹敵する強力な代替手段であることを確認した。