[논문 리뷰] Stock Market Price Prediction: A Hybrid LSTM and Sequential Self-Attention based Approach

Karan Pardeshi, Sukhpal Singh Gill외 1명|arXiv (Cornell University)|2023. 08. 07.

Stock Market Forecasting Methods참고 문헌 14인용 수 7

한 줄 요약

이 논문은 장기 기억 순환 신경망(LSTM)과 순차적 자기주의 메커니즘(Sequential Self-Attention Mechanism)을 융합한 하이브리드 딥러닝 모델인 LSTM-SSAM을 제안하여 주가 예측 정확도를 향상시킨다. 모델은 역학적 가격 추세와 계절성을 활용하여 SBIN, HDFCBANK, BANKBARODA 데이터셋에서 기존 방법들에 비해 뛰어난 RMSE 및 R² 점수를 기록하며 최신 기술 수준의 성능을 달성한다.

ABSTRACT

One of the most enticing research areas is the stock market, and projecting stock prices may help investors profit by making the best decisions at the correct time. Deep learning strategies have emerged as a critical technique in the field of the financial market. The stock market is impacted due to two aspects, one is the geo-political, social and global events on the bases of which the price trends could be affected. Meanwhile, the second aspect purely focuses on historical price trends and seasonality, allowing us to forecast stock prices. In this paper, our aim is to focus on the second aspect and build a model that predicts future prices with minimal errors. In order to provide better prediction results of stock price, we propose a new model named Long Short-Term Memory (LSTM) with Sequential Self-Attention Mechanism (LSTM-SSAM). Finally, we conduct extensive experiments on the three stock datasets: SBIN, HDFCBANK, and BANKBARODA. The experimental results prove the effectiveness and feasibility of the proposed model compared to existing models. The experimental findings demonstrate that the root-mean-squared error (RMSE), and R-square (R2) evaluation indicators are giving the best results.

연구 동기 및 목표

• 역학적 가격 추세와 계절성을 활용하여 주가 예측 정확도를 향상시키는 딥러닝 모델을 개발하는 것.
• LSTM에 순차적 자기주의 메커니즘을 통합하여 장기적 의존성과 핵심 가격 패턴을 더 잘 포착할 수 있도록 하는 것.
• 실제 주가 데이터셋에 대해 제안된 모델을 평가하고 기존 최신 기술 수준의 모델들과의 성능을 비교하는 것.
• 주요 평가 지표로 RMSE를 최소화하고 R²를 최대화하여 예측 오차를 최소화하는 것.

제안 방법

• 모델은 역사적 주가의 시간적 의존성을 학습하기 위해 주로 순환 신경망(LSTM)을 사용하여 시퀀스 인코더로 활용한다.
• LSTM 레이어 이후에 순차적 자기주의 메커니즘이 적용되어 시퀀스 내 다양한 시간 단계의 중요도를 동적으로 가중치를 매긴다.
• 자기주의 메커니즘은 관련된 역학적 가격 패턴과 추세에 집중함으로써 맥락 인식 표현을 계산한다.
• 최종 예측 헤드는 자기주의 조절된 LSTM 출력에서 강화된 맥락 특징을 기반으로 향후 가격 예측을 생성한다.
• 예측 오차를 최소화하기 위해 평균 제곱오차 손실을 사용하여 엔드 투 엔드로 모델을 훈련시킨다.
• 아키텍처는 인도 은행 주식 3종인 SBIN, HDFCBANK, BANKBARODA에서 평가된다.

실험 결과

연구 질문

• RQ1 단일 LSTM 또는 다른 딥러닝 모델에 비해 하이브리드 LSTM 및 순차적 자기주의 모델이 주가 예측 정확도를 향상시킬 수 있는가?
• RQ2 자기주의 메커니즘이 장기적 의존성과 핵심 가격 추세를 포착하는 데 모델의 능력을 어느 정도 향상시키는가?
• RQ3 RMSE 및 R² 지표 측면에서 제안된 LSTM-SSAM 모델은 다양한 주가 데이터셋에서 어떻게 성능을 발휘하는가?
• RQ4 순차적 자기주의의 통합이 다양한 시장 조건에서 더 강건하고 일반화 능력이 뛰어난 예측을 이끌어내는가?

주요 결과

• LSTM-SSAM 모델은 SBIN, HDFCBANK, BANKBARODA 데이터셋에서 비교된 모든 모델 중에서 가장 낮은 루트 평균 제곱 오차(RMSE)를 기록했다.
• 모델은 가장 높은 결정계수(R²) 값을 기록하여 실제 가격 변동에 대한 강력한 설명력과 적합도를 보였다.
• 순차적 자기주의의 통합은 모델이 주요 가격 패턴에 집중하고 예측의 노이즈를 줄이는 데 있어 뚜렷한 향상을 이끌었다.
• 표준 LSTM 및 기타 자기주의 강화 아키텍처를 포함한 기준 모델들에 비해 RMSE 및 R² 지표에서 모두 제안된 모델이 뛰어난 성능을 발휘했다.