[논문 리뷰] Stock Market Trend Analysis Using Hidden Markov Model and Long Short Term Memory

Mingwen Liu, Junbang Huo외 2명|arXiv (Cornell University)|2021. 04. 20.

Stock Market Forecasting Methods참고 문헌 2인용 수 7

한 줄 요약

이 논문은 주가 시장 추세 예측을 위해 은닉 마르코프 모델(HMM)과 순환 신경망(LSTM)을 융합한 하이브리드 모델을 제안한다. 삼중 장벽 방법을 사용해 추세를 레이블링하고, 특성 선택을 위해 점수 함수를 적용한 네 가지 변형 모델(GMM-HMM, XGB-HMM, GMM-HMM+LSTM, XGB-HMM+LSTM)을 평가한다. XGB-HMM+LSTM 모델은 80.70%의 최고 테스트 정확도를 기록하여 시장 방향 예측에서 뛰어난 성능을 보였다.

ABSTRACT

This paper intends to apply the Hidden Markov Model into stock market and and make predictions. Moreover, four different methods of improvement, which are GMM-HMM, XGB-HMM, GMM-HMM+LSTM and XGB-HMM+LSTM, will be discussed later with the results of experiment respectively. After that we will analyze the pros and cons of different models. And finally, one of the best will be used into stock market for timing strategy.

연구 동기 및 목표

• 은닉 마르코프 모델(HMM)을 딥러닝 모델인 LSTM와 융합하여 주가 시장 추세 예측 성능을 향상시키기 위해.
• GMM-HMM, XGB-HMM, GMM-HMM+LSTM, XGB-HMM+LSTM의 네 가지 하이브리드 모델의 성능을 평가하고 비교하기 위해.
• 정확도, 엔트로피, 상태 가중치를 기반으로 한 점수 함수를 활용한 특성 선택 전략을 개발하여 가장 정보가 풍부한 시장 지표를 식별하기 위해.
• 최고 성능을 보인 모델을 활용해 펑yüан 제약회사와 레드선의 역사적 주식 데이터를 바탕으로 실세계 타이밍 전략을 적용하기 위해.

제안 방법

• 삼중 장벽 방법을 사용해 주가 움직임을 레이블링한다: 상단 수익 실현 장벽이 먼저 도달하면 +1, 하단 손절 장벽이 먼저 도달하면 -1, 시간 만료 장벽에 도달하면 0으로 표기한다.
• 시장, 품질, 리스크, 밸류, 분위기, 인덱스, 모멘타ム, 상승 등 여덟 가지 유형의 특징을 추출하고, 상태 정확도, 엔트로피, 상태 빈도를 조합한 점수 함수를 통해 평가한다.
• GMM-HMM 및 XGB-HMM 모델을 각 특징 유형별로 별도로 훈련하여 각 시간 단계의 상태 확률 행렬(state_proba)을 생성한다.
• 모든 여덟 가지 특징 유형에서 생성된 state_proba 행렬을 수평으로 연결하여 LSTM 모델의 입력 X로 구성한다. 이는 은닉 상태를 향후 주가 방향 레이블로 매핑하는 데 기여한다.
• LSTM은 연결된 상태 확률(X)과 해당 레이블(Y)을 기반으로 훈련되며, 최종 출력은 예측된 추세 방향이 된다.
• 모델 성능은 테스트 세트 정확도를 통해 평가되며, 일반화 성능을 최적화하기 위해 하이퍼파ram터를 조정한다.

실험 결과

연구 질문

• RQ1 HMM과 LSTM을 융합한 모델이 단독으로 사용되는 모델 대비 주가 추세 예측 성능을 얼마나 향상시키는가?
• RQ2 정확도, 엔트로피, 상태 가중치의 복합 점수를 기반으로 한 특성 선택 방법 중에서 LSTM에 가장 예측력 있는 입력을 제공하는 것은 무엇인가?
• RQ3 GMM-HMM+LSTM과 XGB-HMM+LSTM의 성능 지표는 미리 보지 않은 데이터에서 테스트 정확도 측면에서 어떻게 비교되는가?
• RQ4 XGB-HMM 모델이 GMM-HMM 모델보다 시장 제도 전환을 더 잘 포착하는가? 만약 그렇다면 그 이유는 무엇인가?

주요 결과

• XGB-HMM+LSTM 모델은 80.699%의 최고 테스트 정확도를 기록하여, GMM-HMM+LSTM 모델의 76.161% 정확도를 뛰어넘는 뛰어난 성능을 보였다.
• XGB-HMM 모델은 일반화 능력이 GMM-HMM보다 뛰어나 훈련 세트에서 87%의 정확도를 기록한 반면, GMM-HMM는 83%에 머물렀다.
• 점수 함수는 로그 수익률, 변동성 비율, 주가순자산비율 등 주로 예측력이 높은 특징을 효과적으로 우선순위에 올렸다.
• LSTM은 XGBoost보다 상태 확률에서 레이블로의 매핑을 더 잘 학습하여, HMM 상태 시퀀스의 시간적 의존성을 모델링하는 데 뛰어난 능력을 보였다.
• 삼중 장벽 방법은 방향성 있는 주가 움직임을 효과적으로 인코딩하여 다양한 시간 프레임에서 일관된 추세 이벤트 레이블링을 가능케 하였다.
• XGB-HMM이 은닉 상태를 추출하고 LSTM이 그들의 시간적 진화를 모델링하는 모델 아키텍처는 금융 시계열 예측에 있어 강력하고 효과적인 것으로 입증되었다.