[논문 리뷰] Visual Attention Model for Cross-sectional Stock Return Prediction and End-to-End Multimodal Market Representation Learning

Ran Zhao, Yuntian Deng외 4명|arXiv (Cornell University)|2018. 09. 11.

Stock Market Forecasting Methods인용 수 8

한 줄 요약

이 논문은 주식 시장을 '시장 이미지'—주식(행)과 재무 지표(열)로 구성된 2차원 행렬로 표현하는 시각적 주의 모델을 제안한다. 이를 통해 다중 모odal 시장 표현의 엔드 투 엔드 학습을 가능하게 한다. 컨볼루션 및 순환 네트워크를 활용한 주의 메커니즘을 통해 횡단적 주식 수익률 예측 성능을 향상시키고, 원본 시장 이미지를 고정밀도로 재구성할 수 있는 컴팩트한 시장 임베딩을 학습한다. 이는 주성분 분석(PCA)보다 재구성 정확도에서 뛰어나다.

ABSTRACT

Technical and fundamental analysis are traditional tools used to analyze individual stocks; however, the finance literature has shown that the price movement of each individual stock correlates heavily with other stocks, especially those within the same sector. In this paper we propose a general purpose market representation that incorporates fundamental and technical indicators and relationships between individual stocks. We treat the daily stock market as a "market image" where rows (grouped by market sector) represent individual stocks and columns represent indicators. We apply a convolutional neural network over this market image to build market features in a hierarchical way. We use a recurrent neural network, with an attention mechanism over the market feature maps, to model temporal dynamics in the market. We show that our proposed model outperforms strong baselines in both short-term and long-term stock return prediction tasks. We also show another use for our market image: to construct concise and dense market embeddings suitable for downstream prediction tasks.

연구 동기 및 목표

• 기본적, 기술적, 시장 구조 정보를 통합한 일반 목적의 시장 표현을 개발하여 주식 수익률 예측 성능을 향상시키는 것.
• 계층적 시장 특징 맵에 대한 주의 메커니즘을 갖춘 순환 신경망을 통해 금융 시장의 시간적 동역학을 모델링하는 것.
• 입력 시장 이미지의 무결성을 유지하는 복잡한, 조밀하고 컴팩트한 시장 임베딩을 컨볼루션 오토인코더를 통해 학습하는 것.
• 원시 시장 이미지에서 엔드 투 엔드 학습이 기존 수작업 특징 및 주성분 분석(PCA)보다 예측 및 표현 작업에서 뛰어난 성능을 내는지 입증하는 것.

제안 방법

• 주식을 섹터별로 그룹화한 행과 기본적, 기술적, 가격-거래량 지표를 열로 하는 m×n 행렬인 '시장 이미지'를 구성한다.
• 시장 이미지에서 계층적 공간적 특징을 추출하기 위해 컨볼루션 신경망(CNN)을 적용하여 동일 섹터 내 주식 간의 관계를 포착한다.
• 시간에 따라 스택된 시장 이미지의 CNN 특징 맵에 주의 메커니즘을 적용한 순환 신경망(RNN)을 사용하여 시간적 동역학을 모델링한다.
• 에ncoder-디코더 아키텍처를 갖춘 완전 컨볼루션 오토인코더(MarketSegNet)를 구현하여 원본 시장 이미지의 픽셀 단위 재구성 가능성을 확보하는 컴팩트하고 조밀한 시장 임베딩을 학습한다.
• 입력 시장 이미지의 고정밀도 재구성을 보장하기 위해 픽셀 단위 회귀 손실을 사용해 오토인코더를 훈련한다.
• 다양한 임베딩 차원(16에서 128까지)에서 MarketSegNet의 재구성 성능을 PCA와 비교한다.

실험 결과

연구 질문

• RQ1 시장을 이미지로 간주하는 시각적 주의 모델이 기존 기준 모델 대비 횡단적 주식 수익률 예측 성능을 향상시키는가?
• RQ2 기본적, 기술적, 시장 구조 정보를 통합한 유일한 다중 모달 표현이 주식 예측에 얼마나 효과적인가?
• RQ3 컨볼루션 오토인코더가 PCA보다 더 많은 정보를 유지하는 일반적이고 컴팩트한 시장 임베딩을 학습할 수 있는가?
• RQ4 계층적 시장 특징에 대한 주의 메커니즘이 주식 수익률의 시간적 모델링을 향상시키는가?
• RQ5 학습된 시장 임베딩이 얼마나 높은 정밀도로 원본 시장 이미지를 재구성할 수 있는가?

주요 결과

• 제안된 주의 기반 RNN를 갖춘 시장 인식 모델이 단기 및 장기 주식 수익률 예측 과제에서 강력한 기준 모델을 모두 초월한다.
• MarketSegNet 오토인코더는 테스트된 모든 임베딩 크기(16에서 128까지)에서 PCA보다 낮은 재구성 오차를 기록하여 정보 유지 능력이 뛰어나다는 것을 입증한다.
• MarketSegNet의 학습된 임베딩은 시장 이미지의 공간적 및 시간적 패턴을 유지하여 고정밀도 픽셀 단위 재구성 가능성을 확보한다.
• CNN을 통한 계층적 특징 학습은 섹터 수준의 추세와 주식 간 관계를 효과적으로 포착한다.
• RNN 내 주의 메커니즘은 시간에 따라 중요한 시장 특징을 동적으로 가중함으로써 시간적 모델링 성능을 향상시킨다.
• 모델은 원시 시장 이미지에서 엔드 투 엔드 학습이 기존의 차원 축소 기법인 PCA보다 예측 및 표현 성능에서 뛰어나다는 것을 입증한다.