[논문 리뷰] Machine Learning Algorithms for Time Series Analysis and Forecasting

Rameshwar Garg, Shriya Barpanda외 2명|arXiv (Cornell University)|2022. 11. 25.

Stock Market Forecasting Methods인용 수 11

한 줄 요약

이 논문은 시계열 예측을 위한 기계학습 및 딥러닝 기법에 대한 종합적인 서베이를 제시하며, 전처리, 통계 모델(ARIMA, Prophet), 딥러닝 아키텍처(LSTM) 및 하이브리드 모델을 포함한다. 데이터 준비에서 검증에 이르는 체계적인 워크플로우를 제공하여 연구자들이 최신 기술과 모델 선택 전략을 실용적으로 활용할 수 있도록 안내한다.

ABSTRACT

Time series data is being used everywhere, from sales records to patients' health evolution metrics. The ability to deal with this data has become a necessity, and time series analysis and forecasting are used for the same. Every Machine Learning enthusiast would consider these as very important tools, as they deepen the understanding of the characteristics of data. Forecasting is used to predict the value of a variable in the future, based on its past occurrences. A detailed survey of the various methods that are used for forecasting has been presented in this paper. The complete process of forecasting, from preprocessing to validation has also been explained thoroughly. Various statistical and deep learning models have been considered, notably, ARIMA, Prophet and LSTMs. Hybrid versions of Machine Learning models have also been explored and elucidated. Our work can be used by anyone to develop a good understanding of the forecasting process, and to identify various state of the art models which are being used today.

연구 동기 및 목표

• 연구자 및 실무자들을 대상으로 시계열 예측 방법에 대한 체계적인 개요를 제공하기 위해.
• 기존의 통계 모델(예: ARIMA, Prophet)과 현대적인 딥러닝 접근법(예: LSTM) 간의 성능를 비교하기 위해.
• 다양한 알고리즘의 강점을 융합하여 예측 정확도를 향상시키는 데 목적이 있는 하이브리드 기계학습 모델을 탐색하기 위해.
• 데이터 전처리에서 모델 검증에 이르는 완전한 예측 파이프라인을 개략적으로 제시하기 위해.
• 실제 시계열 문제에 적용 가능한 최신 기술 모델을 식별하는 데 참고 자료로 활용하기 위해.

제안 방법

• 시계열 예측 방법을 통계적, 기계학습, 딥러닝 접근법으로 분류하고 서베이하기 위해.
• 결측치 처리, 정규화, 정상성 검증 등의 전처리 단계를 상세히 기술하기 위해.
• ARIMA를 선형 시계열에 적합한 고전적 통계 모델로 제시하며, 자기회귀, 차분, 이동평균 성분을 포함한다.
• 프로젝트의 트렌드, 계절성 및 공휴일 효과를 포함한 덧셈 회귀 모델을 사용하는 페이스북의 Prophet 모델을 기술하기 위해.
• 장기적 의존성을 시계열 데이터에서 포착하도록 설계된 딥러닝 아키텍처인 장기 단기 기억망(LSTM) 네트워크를 설명하기 위해.
• 다양한 모델의 출력 또는 아키텍처를 융합하는 하이브리드 모델을 소개하여 예측 성능을 향상시키기 위해(예: LSTM에 주의 메커니즘 또는 XGBoost를 결합함).

실험 결과

연구 질문

• RQ1 다양한 데이터 특성에 따라 시계열 예측에 가장 효과적인 기계학습 및 딥러닝 모델은 무엇인가?
• RQ2 ARIMA 및 Prophet와 같은 전통적인 통계 모델은 LSTM과 같은 딥러닝 모델에 비해 성능에서 어떻게 비교되는가?
• RQ3 예측 정확도에 크게 영향을 주는 핵심 전처리 및 검증 단계는 무엇인가?
• RQ4 어떤 상황에서 하이브리드 모델이 개별 모델보다 우수한 성능을 보이는가?
• RQ5 데이터 준비에서 모델 평가에 이르는 완전한 엔드 투 엔드 예측 워크플로우는 어떻게 구성되는가?

주요 결과

• 논문은 ARIMA와 Prophet이 선형적이며 추세와 계절성 패턴이 뚜렷한 시계열에 대해 강력한 선택지임을 밝혔다.
• LSTM 모델은 장기적 의존성이 있는 복잡한 비선형 시계열에서 뛰어난 성능을 보였다.
• LSTM에 주의 메커니즘 또는 앙상블 방법을 융합한 하이브리드 모델은 특정 경우에 단독 모델보다 더 높은 정확도를 보였다.
• 적절한 전처리, 특히 정상성 검증 및 정규화가 일관된 모델 성능을 확보하는 데 핵심적인 역할을 한다는 것이 확인되었다.
• 데이터 정제, 모델 선택, 하이퍼파ram터 튜닝 및 검증을 포함한 완전한 예측 파이프라인은 최종 예측 품질에 큰 영향을 미친다.
• 이 서베이는 데이터 유형, 복잡도 및 예측 목표에 따라 적절한 모델을 선정하는 데 실용적인 참고 자료로 기능한다.