[논문 리뷰] Stock2Vec: A Hybrid Deep Learning Framework for Stock Market Prediction with Representation Learning and Temporal Convolutional Network

Xing Wang, Yijun Wang외 2명|arXiv (Cornell University)|2020. 09. 29.

Stock Market Forecasting Methods인용 수 6

한 줄 요약

이 논문은 S&P 500 주가 예측을 위해 주식 간 관계의 표현 학습과 시간적 컨volution 네트워크(TCN)를 결합한 하이브리드 딥러닝 프레임워크인 Stock2Vec을 제안한다. 주식 수익률 패턴 기반으로 엔티티 임베딩(Stock2Vec)을 학습하고, 1D 확장된 인과 컨볼루션을 활용해 주식 간 장기적인 시간 패턴을 포착함으로써, 랜덤 포레스트, XGBoost, LSTM와 같은 벤치마크 모델보다 예측 정확도가 뛰어나며, 시장 동향과 변동성도 더 잘 포착한다.

ABSTRACT

We have proposed to develop a global hybrid deep learning framework to predict the daily prices in the stock market. With representation learning, we derived an embedding called Stock2Vec, which gives us insight for the relationship among different stocks, while the temporal convolutional layers are used for automatically capturing effective temporal patterns both within and across series. Evaluated on S&P 500, our hybrid framework integrates both advantages and achieves better performance on the stock price prediction task than several popular benchmarked models.

연구 동기 및 목표

• 고립된 주식 모델링이나 트리 기반 앙상블 방법의 한계를 극복하고, 종합적인 주식 간 관계와 시간적 가격 역학을 동시에 모델링하는 글로벌 딥러닝 프레임워크를 개발한다.
• 이력 가격 데이터 기반으로 주식 간 내재적 관계를 포착하는 분포 표현(Stock2Vec)을 학습한다.
• 시간적 컨volution 네트워크(TCN)를 활용해 다수의 주식에 걸쳐 복잡한 시간 패턴을 자동으로 추출한다.
• 고립된 주식 모델링과 트리 기반 앙상블 방법이 장기적 의존성과 시장 전반의 동향을 포착하는 데에 한계가 있음을 해결한다.
• 관련된 시장 전반의 패턴을 기반으로 지식을 전이함으로써, 역사적 데이터가 제한된 쿨스타트 주식에 대한 처리 능력을 향상시킨다.

제안 방법

• 주식의 수익률 패턴 기반으로 저차원 표현을 학습하는 엔티티 임베딩(Stock2Vec)을 사용하여, 자연어처리(NLP)의 워드 임베딩과 유사한 암묵적 관계를 포착한다.
• 장기적인 시간 의존성을 주식 가격 시리즈 전반에 대해 모델링하기 위해 확장된 인과 컨볼루션을 갖춘 시간적 컨volution 네트워크(TCN)를 적용한다.
• 모델은 종합적으로 훈련되어 매일의 주가를 예측하며, TCN 구성 요소는 자동 회귀 특징과 시장 전반의 공유 시간 패턴을 학습한다.
• Stock2Vec은 이력 수익률 시퀀스 기반으로 대비 학습 목표를 사용해 훈련되며, 이로써 주식 간 구조적 유사성을 추론할 수 있다.
• 하이브리드 아키텍처는 Stock2Vec 임베딩을 TCN의 입력 특징으로 통합하여, 교차 섹션 및 시간 패턴을 동시에 학습할 수 있도록 한다.
• 모델은 S&P 500 데이터 기반으로 평가되며, 랜덤 포레스트, XGBoost, LSTM 기반 벤치마크와 표준 회귀 지표를 사용해 성능을 비교한다.

실험 결과

연구 질문

• RQ1 종합적인 딥러닝 모델이 주식 간 관계와 시간 역학을 동시에 학습함으로써, 고립된 모델이나 트리 기반 모델보다 주가 예측 성능을 향상시킬 수 있는가?
• RQ2 표현 학습(Stock2Vec)이 원시 주가 데이터에서 명백하지 않은 주식 간 내재적 관계를 어느 정도 포착할 수 있는가?
• RQ3 TCN 구성 요소가 RNN에 비해 주가 시리즈의 장기적 비선형 시간 패턴을 얼마나 잘 포착하는가?
• RQ4 시장 전반의 상관관계를 활용함으로써, 역사적 데이터가 제한된 쿨스타트 주식을 효과적으로 처리할 수 있는가?
• RQ5 교차 섹션(Beta 유사) 및 시간적(Alpha 유사) 학습을 통합함으로써, 예측 정확도와 동향 탐지 능력이 향상되는가?

주요 결과

• TCN-Stock2Vec 모델은 랜덤 포레스트, XGBoost, LSTM 기반 모델보다 매일의 주가 예측에서 뛰어난 성능을 보이며, 전체 예측 오차가 낮다.
• Stock2Vec 임베딩은 주식 간 잠재적 관계를 효과적으로 포착하여, 개별 주식 특징에 의존하는 모델보다 더 우수한 일반화 능력을 제공한다.
• TCN 구성 요소는 수동으로 설계된 기술적 지표가 없어도 가격 데이터의 복잡한 비선형 추세와 계절성을 성공적으로 학습한다.
• 트리 기반 모델(RF, XGBoost)은 대규모 앙상블를 사용하더라도 과적합과 분할 부족으로 인해 예측 지연과 평탄한 예측 기간을 보인다.
• 하이브리드 모델은 전체 시장에서 공유되는 시간 패턴을 학습함으로써 예측의 극심한 진동을 줄여 더 안정적이고 정확한 예측을 도출한다.
• 글로벌 모델링 접근법은 관련 주식과 시장 전반의 패턴을 기반으로 지식을 전이함으로써 쿨스타트 주식에 대한 효과적인 예측을 가능하게 한다.