[논문 리뷰] Comparative Study of Machine Learning Models for Stock Price Prediction

Ogulcan E. Orsel, Sasha S. Yamada|arXiv (Cornell University)|2022. 01. 31.

Stock Market Forecasting Methods인용 수 8

한 줄 요약

이 연구는 10년간의 역사적 데이터를 사용하여 다음 날 주가를 예측하기 위해 기계학습 모델—특히 선형 칼만 필터와 다양한 LSTM 아키텍처—를 비교한다. 저자는 저변동성 주식(예: MSFT)은 칼만 필터로 가장 잘 예측되며, 고변동성 주식(예: TSLA)은 CNN-LSTM과 같은 복잡한 LSTM이 필요하다고 발견한다. R² 값은 최대 0.96에 이르며, 이는 최적의 성능을 얻기 위해 모델 선택이 변동성에 따라 달라져야 한다는 것을 시사한다.

ABSTRACT

In this work, we apply machine learning techniques to historical stock prices to forecast future prices. To achieve this, we use recursive approaches that are appropriate for handling time series data. In particular, we apply a linear Kalman filter and different varieties of long short-term memory (LSTM) architectures to historical stock prices over a 10-year range (1/1/2011 - 1/1/2021). We quantify the results of these models by computing the error of the predicted values versus the historical values of each stock. We find that of the algorithms we investigated, a simple linear Kalman filter can predict the next-day value of stocks with low-volatility (e.g., Microsoft) surprisingly well. However, in the case of high-volatility stocks (e.g., Tesla) the more complex LSTM algorithms significantly outperform the Kalman filter. Our results show that we can classify different types of stocks and then train an LSTM for each stock type. This method could be used to automate portfolio generation for a target return rate.

연구 동기 및 목표

• 역사적 시계열 데이터를 사용하여 기계학습 모델의 다음 날 주가 예측 효과성을 평가하는 것.
• 다양한 변동성 수준을 가진 주식에서 선형 칼만 필터와 여러 가지 LSTM 아키텍처의 성능를 비교하는 것.
• 훈련된 LSTM 모델이 재학습 없이도 다른 주식이나 시장 지수로 일반화 가능한지 조사하는 것.
• 변동성에 따라 모델 클러스터링을 통해 포트폴리오 자동 생성 또는 딱 하루 거래 전략을 자동화할 수 있는지 탐색하는 것.

제안 방법

• 2011~2021년 기간 동안 기술주(예: MSFT, AAPL, TSLA)와 시장 지수(예: NASDAQ, S&P 500)의 10년 역사적 주가를 yfinance를 사용해 수집하였다.
• 지난 3일 간의 국소 분산 추정을 통한 예측과 측정 불확실성 간 균형을 맞추기 위해 반복적 선형 칼만 필터를 적용하였다.
• 단일층, 이중층, 양방향, CNN-LSTM 등 다양한 LSTM 변형을 구현하였으며, 최소-최대 스케일링과 3차원 시계열 입력 형식을 사용하였다.
• 모델을 7.5년간의 데이터로 훈련하고 나머지 2.5년간의 데이터로 테스트하였으며, 예측값과 진짜 가격을 비교하기 위해 역스케일링을 적용하였다.
• 예측 정확도를 정량화하기 위해 RMSE, MAE, R² 지표를 사용하여 다양한 주식 유형에서의 모델 성능을 평가하였다.
• 최고 성능을 보인 모델(양방향 및 CNN-LSTM)을 재학습 없이 시장 지수(S&P 500 및 루이스 마이크로캡)로 확장하여 일반화 능력을 테스트하였다.

실험 결과

연구 질문

• RQ1 저변동성 주가 예측에서 딥러닝 모델보다 선형 칼만 필터가 더 우수한 성능을 낼 수 있는가?
• RQ2 더 깊거나 더 복잡한 LSTM 아키텍처(예: 양방향, CNN-LSTM)가 고변동성 주식의 예측 정확도를 크게 향상시키는가?
• RQ3 한 번 훈련된 LSTM 모델이 유사한 변동성 특성을 가진 다른 주식이나 시장 지수로 일반화 가능한가?
• RQ4 주식의 변동성과 칼만 필터 및 LSTM의 상대적 성능 간 상관관계가 존재하는가?

주요 결과

• 저변동성 주식인 MSFT의 경우 칼만 필터가 R² 0.99를 기록하여 모든 LSTM 변형(양방향 LSTM 포함)을 초월하였다.
• 고변동성 주식인 TSLA의 경우 CNN-LSTM 모델이 가장 뛰어난 성능을 보였으며, RMSE 2.20, MAE 1.54, R² 0.96를 기록하였다.
• 이중층 LSTM은 MSFT의 경우 칼만 필터보다 성능이 열 worse(RMSE 24.66)하여, 안정적인 주식에는 깊이 있는 아키텍처가 항상 유리하지 않음을 시사한다.
• 양방향 LSTM은 MSFT에서 R² 0.99, TSLA에서 R² 0.95를 기록하여 다양한 변동성 수준에서 뛰어난 성능를 보였지만, 고변동성 데이터에서는 CNN-LSTM을 능가하지 못하였다.
• 훈련된 LSTM 모델(특히 양방향 및 CNN-LSTM)은 재학습 없이도 시장 지수(S&P 500 및 루이스 마이크로캡)로 일반화되어 각각 R² 0.99의 성능을 기록하였다.
• 결과는 주식을 변동성 기준으로 클러스터링하고 각 클러스터에 맞는 전용 모델을 훈련하는 전략이 포트폴리오 자동 생성 또는 알고리즘 거래의 스케일업을 가능하게 한다는 것을 뒷받침한다.