[论文解读] Machine Learning Algorithms for Time Series Analysis and Forecasting

Rameshwar Garg, Shriya Barpanda+2 more|arXiv (Cornell University)|Nov 25, 2022

Stock Market Forecasting Methods被引用 11

一句话总结

本文全面综述了用于时间序列预测的机器学习与深度学习方法，涵盖预处理、统计模型（ARIMA、Prophet）以及深度学习架构（LSTM），并包括混合模型。它提供了一个从数据准备到验证的系统性工作流程，为研究人员提供了面向时间序列应用的最先进技术与模型选择的实用指南。

ABSTRACT

Time series data is being used everywhere, from sales records to patients' health evolution metrics. The ability to deal with this data has become a necessity, and time series analysis and forecasting are used for the same. Every Machine Learning enthusiast would consider these as very important tools, as they deepen the understanding of the characteristics of data. Forecasting is used to predict the value of a variable in the future, based on its past occurrences. A detailed survey of the various methods that are used for forecasting has been presented in this paper. The complete process of forecasting, from preprocessing to validation has also been explained thoroughly. Various statistical and deep learning models have been considered, notably, ARIMA, Prophet and LSTMs. Hybrid versions of Machine Learning models have also been explored and elucidated. Our work can be used by anyone to develop a good understanding of the forecasting process, and to identify various state of the art models which are being used today.

研究动机与目标

• 为研究人员和实践者提供时间序列预测方法的结构化概述。
• 比较传统统计模型（如ARIMA、Prophet）与现代深度学习方法（如LSTM）的性能。
• 探索结合多种算法优势的混合机器学习模型，以提升预测准确性。
• 概述从数据预处理到模型验证的完整预测流程。
• 作为识别适用于现实世界时间序列问题的最先进模型的参考。

提出的方法

• 将时间序列预测方法分类为统计方法、机器学习方法和深度学习方法。
• 详细说明预处理步骤，如缺失值处理、归一化和平稳性检验。
• 介绍ARIMA作为具有自回归、差分和移动平均分量的经典统计模型，适用于线性时间序列。
• 描述Facebook的Prophet模型，其采用带趋势、季节性和假日效应的加法回归。
• 解释长短期记忆（LSTM）网络作为专为捕捉序列数据中长期依赖关系而设计的深度学习架构。
• 介绍混合模型，通过组合多个模型的输出或架构（如LSTM与注意力机制或XGBoost结合）来提升预测性能。

实验结果

研究问题

• RQ1 在不同数据特征下，哪些机器学习与深度学习模型在时间序列预测中最为有效？
• RQ2 传统统计模型（如ARIMA和Prophet）与深度学习模型（如LSTM）在性能上如何比较？
• RQ3 哪些关键的预处理与验证步骤对预测准确性有显著影响？
• RQ4 在何种情况下，混合模型在时间序列预测中优于单一模型？
• RQ5 从数据准备到模型评估的时间序列预测的完整端到端工作流程是什么？

主要发现

• 本文指出ARIMA和Prophet是具有清晰模式的线性、趋势性及季节性结构时间序列的稳健选择。
• LSTM模型在具有长期依赖关系的复杂非线性时间序列上表现出色。
• 混合模型（如结合LSTM与注意力机制或集成方法的模型）在某些情况下表现出优于独立模型的准确性。
• 适当的预处理——尤其是平稳性检验与归一化——被证明对模型性能的一致性至关重要。
• 完整的预测流程（包括数据清洗、模型选择、超参数调优与验证）显著影响最终预测质量。
• 该综述可作为根据数据类型、复杂度与预测目标选择合适模型的实用参考。