[論文レビュー] Machine Learning Algorithms for Time Series Analysis and Forecasting

Rameshwar Garg, Shriya Barpanda+2 more|arXiv (Cornell University)|Nov 25, 2022

Stock Market Forecasting Methods被引用数 11

ひとこと要約

本論文は、時系列予測のための機械学習およびディープラーニング手法について包括的なサーベイを提示しており、前処理、統計モデル（ARIMA、Prophet）、ディープラーニングアーキテクチャ（LSTM）およびハイブリッドモデルをカバーしている。データ準備から検証に至るまでの体系的ワークフローを提供し、研究者に対して時系列応用分野における最新技術およびモデル選択の実用的ガイドを提供する。

ABSTRACT

Time series data is being used everywhere, from sales records to patients' health evolution metrics. The ability to deal with this data has become a necessity, and time series analysis and forecasting are used for the same. Every Machine Learning enthusiast would consider these as very important tools, as they deepen the understanding of the characteristics of data. Forecasting is used to predict the value of a variable in the future, based on its past occurrences. A detailed survey of the various methods that are used for forecasting has been presented in this paper. The complete process of forecasting, from preprocessing to validation has also been explained thoroughly. Various statistical and deep learning models have been considered, notably, ARIMA, Prophet and LSTMs. Hybrid versions of Machine Learning models have also been explored and elucidated. Our work can be used by anyone to develop a good understanding of the forecasting process, and to identify various state of the art models which are being used today.

研究の動機と目的

• 研究者および実務家向けに時系列予測手法の構造的概要を提供すること。
• 従来の統計モデル（例：ARIMA、Prophet）と現代のディープラーニングアプローチ（例：LSTM）を比較すること。
• 複数のアルゴリズムの長所を組み合わせることで予測精度を向上させるハイブリッド機械学習モデルを検討すること。
• データ前処理からモデル検証に至るまで、予測パイプライン全体を明示すること。
• 実世界の時系列問題に適用可能な最先端のモデルを特定するためのリファレンスとして機能すること。

提案手法

• 時系列予測手法を統計的、機械学習的、ディープラーニング的アプローチに分類してサーベイすること。
• 欠損値の処理、正規化、定常性の検定などの前処理ステップを詳細に提示すること。
• 自己回帰、差分、移動平均成分を備えた線形時系列に適した古典的統計モデルとしてのARIMAを提示すること。
• トレンド、季節性、休日効果を組み込んだ加法的回帰を用いるフェイスブックのProphetモデルを説明すること。
• 順序データにおける長期依存関係を捉えるために設計された、長短期記憶（LSTM）ネットワークをディープラーニングアーキテクチャとして説明すること。
• 複数のモデルの出力やアーキテクチャを組み合わせることで性能を向上させるハイブリッドモデル（例：LSTMにアテンションを組み合わせる、またはXGBoostと組み合わせる）を紹介すること。

実験結果

リサーチクエスチョン

• RQ1 異なるデータ特性を持つ時系列予測において、どの機械学習およびディープラーニングモデルが最も効果的か？
• RQ2 ARIMA や Prophet といった従来の統計モデルは、LSTM といったディープラーニングモデルと比べて性能でどう異なるか？
• RQ3 予測精度に顕著な影響を与える主な前処理および検証ステップは何か？
• RQ4 どのような状況下でハイブリッドモデルが個別のモデルを上回る性能を示すか？
• RQ5 データ準備からモデル評価に至るまで、時系列予測の完全なエンドツーエンドのワークフローはどのようなものか？

主な発見

• 本論文は、明確なパターンを示す線形的でトレンドや季節的構造を持つ時系列に対して、ARIMA および Prophet が頑健な選択肢であると特定した。
• LSTM モデルは、長期依存関係を持つ複雑で非線形な時系列において優れた性能を示した。
• LSTM にアテンション機構やアンサンブル手法を組み合わせたハイブリッドモデルは、特定の状況下で単体モデルを上回る精度を示した。
• 特に定常性の検定と正規化を含む適切な前処理が、モデルの性能の一貫性を確保するために極めて重要であることが判明した。
• データクリーニング、モデル選択、ハイパーパramータチューニング、検証を含む完全な予測パイプラインが、最終的な予測品質に顕著な影響を与えることが分かった。
• 本サーベイは、データの種類、複雑さ、予測目的に応じた適切なモデルの選定のための実用的リファレンスとして機能する。