[논문 리뷰] A Study on Stock Forecasting Using Deep Learning and Statistical Models

Himanshu Gupta, Aditya Jaiswal|arXiv (Cornell University)|2024. 02. 08.

Stock Market Forecasting MethodsDecision Sciences인용 수 3

한 줄 요약

이 연구는 주가 예측을 위한 딥러닝 모델과 통계 모델—ARIMA, RNN, LSTM, CNN, WaveNet 기반 Full CNN—을 S&P 500 데이터에 적용하여 평가한다. 주요 평가 지표로 평균 절대 오차(MAE)를 사용했으며, 30일 윈도우를 적용한 LSTM가 1.18의 최저 MAE를 기록하여 ARIMA(MAE 2.8)와 Full CNN(MAE 7.98)를 포함한 모든 모델을 앞서며 우수한 성능을 보였다.

ABSTRACT

Predicting a fast and accurate model for stock price forecasting is been a challenging task and this is an active area of research where it is yet to be found which is the best way to forecast the stock price. Machine learning, deep learning and statistical analysis techniques are used here to get the accurate result so the investors can see the future trend and maximize the return of investment in stock trading. This paper will review many deep learning algorithms for stock price forecasting. We use a record of s&p 500 index data for training and testing. The survey motive is to check various deep learning and statistical model techniques for stock price forecasting that are Moving Averages, ARIMA which are statistical techniques and LSTM, RNN, CNN, and FULL CNN which are deep learning models. It will discuss various models, including the Auto regression integration moving average model, the Recurrent neural network model, the long short-term model which is the type of RNN used for long dependency for data, the convolutional neural network model, and the full convolutional neural network model, in terms of error calculation or percentage of accuracy that how much it is accurate which measures by the function like Root mean square error, mean absolute error, mean squared error. The model can be used to predict the stock price by checking the low MAE value as lower the MAE value the difference between the predicting and the actual value will be less and this model will predict the price more accurately than other models.

연구 동기 및 목표

• 딥러닝 모델(LSTM, RNN, CNN, WaveNet)과 통계 모델(ARIMA, 이동 평균)의 주가 예측 성능을 비교하기 위해.
• MAE, RMSE, MSE와 같은 정량적 오차 지표를 활용하여 S&P 500 지수 예측에 가장 정확한 모델을 특정하기 위해.
• 윈도우 크기와 데이터 전처리가 시계열 주가 예측의 정확도에 미치는 영향을 평가하기 위해.
• 비정상적이고 변동성이 큰 금융 시계열에서 딥러닝 모델이 기존 통계 모델을 일관되게 능가하는지 여부를 규명하기 위해.

제안 방법

• 이전 S&P 500 데이터(시가, 고가, 저가, 종가, 거래량)를 기반으로 ARIMA, RNN, LSTM, CNN, Full CNN 모델을 훈련 및 테스트하였다.
• LSTM 및 CNN 모델의 시간적 의존성을 파악하기 위해 20일 및 30일 윈도우 크기를 갖는 슬라이딩 윈도우 방식을 적용하였다.
• 장기적 패턴을 포착하기 위해 Full CNN 모델에 WaveNet 기반 아키텍처를 구현하였으며, 확장된 컨볼루션(dilation rates 1, 2, 4, 8)을 사용하였다.
• 주가 시계열의 비정상성 감소를 위해 정규화 및 차분 처리와 같은 데이터 전처리 기법을 적용하였다.
• 모델 성능 평가에 MAE, RMSE, MSE를 사용하였으며, 낮은 MAE 값이 더 높은 예측 정확도를 의미한다.
• 모델 개발, 훈련, 시각화에 Python, NumPy, Keras, scikit-learn, matplotlib를 사용하였다.

실험 결과

연구 질문

• RQ1 통계 모델(ARIMA)과 딥러닝 모델(LSTM, RNN, CNN) 중에서 S&P 500 주가 예측에서 가장 낮은 평균 절대 오차(MAE)를 기록하는 것은 무엇인가?
• RQ2 윈도우 크기(20일 대비 30일)가 LSTM 및 CNN 모델의 주가 예측 성능에 어떤 영향을 미치는가?
• RQ3 WaveNet 기반 Full CNN 모델은 전처리된 표준 CNN 모델보다 주가 데이터의 시간적 패턴을 더 잘 포착하는가?
• RQ4 RNN 변종(시퀀스-투-벡터 대 시퀀스-투-시퀀스)은 금융 시계열 예측 정확도에서 어떻게 비교되는가?
• RQ5 딥러닝 모델은 나이브 모델 및 이동 평균 기반 기준선 대비 예측 오차를 얼마나 줄이는가?

주요 결과

• 30일 윈도우를 적용한 LSTM가 1.18의 최저 MAE를 기록하여, ARIMA(MAE 2.8)를 포함한 모든 테스트된 모델을 앞서며 최고의 성능을 보였다.
• Full CNN 모델(MAE 7.98)은 전처리된 CNN 모델(MAE 12.65)보다 유의미하게 높은 성능을 보였으며, WaveNet 아키텍처의 효과성을 입증하였다.
• 시퀀스-투-시퀀스 RNN은 시퀀스-투-벡터 RNN(MAE 23.07)보다 낮은 MAE(4.19)를 기록하여 장기적 의존성 학습 능력이 뛰어나다는 것을 시사하였다.
• ARIMA는 MAE 2.8을 기록하며 상당히 우수한 성능을 보였지만, 모든 딥러닝 모델, 특히 LSTM에 비해 뒤처졌다.
• 나이브 모델(이전 일자의 가격을 사용)은 강력한 기준선이었지만, 모든 딥러닝 모델이 이를 개선했다.
• LSTM는 잡음이 많고 비정상적인 주가 데이터에서 장기적 의존성과 비선형 패턴을 효과적으로 포착할 수 있어, 다양한 지표에서 뛰어난 성능을 보였다.