[논문 리뷰] A Novel Distributed Representation of News (DRNews) for Stock Market Predictions

Ye Ma, Lu Zong외 1명|arXiv (Cornell University)|2020. 05. 24.

Stock Market Forecasting Methods참고 문헌 47인용 수 4

한 줄 요약

이 논문은 속성 부여된 뉴스 네트워크를 통해 의미적 내용과 문서 간 관계를 모두 모델링하는 새로운 분산 표현인 DRNews를 제안한다. 서브워드 기반 특징 집합과 편향된 무작위 보행을 통합함으로써 DRNews는 주식 예측 성능을 향상시켜 단기 변동 예측에서 46.24%의 정확도를 달성하고, 시장 위기의 경우 2.5일의 조기 경고 창을 가진 상태에서 94.61%의 정확도를 기록한다. 이는 다섯 가지 베이스라인을 모두 능가한다.

ABSTRACT

In this study, a novel Distributed Representation of News (DRNews) model is developed and applied in deep learning-based stock market predictions. With the merit of integrating contextual information and cross-documental knowledge, the DRNews model creates news vectors that describe both the semantic information and potential linkages among news events through an attributed news network. Two stock market prediction tasks, namely the short-term stock movement prediction and stock crises early warning, are implemented in the framework of the attention-based Long Short Term-Memory (LSTM) network. It is suggested that DRNews substantially enhances the results of both tasks comparing with five baselines of news embedding models. Further, the attention mechanism suggests that short-term stock trend and stock market crises both receive influences from daily news with the former demonstrates more critical responses on the information related to the stock market {\em per se}, whilst the latter draws more concerns on the banking sector and economic policies.

연구 동기 및 목표

• 뉴스 이벤트 간 의미적 내용뿐 아니라 문서 간 관계까지 포괄하는 뉴스 임베딩 모델을 개발하는 것.
• 시간, 카테고리, 감성 등 다양한 뉴스 특징을 통합된 벡터 공간에 통합하여 더 풍부한 표현을 가능하게 하는 것.
• 뉴스 기사 간 잠재적 연결성을 네트워크 구조를 통해 모델링하여 주식 시장 예측을 향상시키는 것.
• 서브노드 기반 접근을 통해 새로운 게재된 뉴스에 대한 빠른 추론을 가능하게 하여 미리 정의되지 않은 노드로의 확장을 지원하는 것.
• 두 가지 핵심 과제인 단기 주식 이동 예측과 체계적 위기 조기 경고에 대해 모델을 평가하는 것.

제안 방법

• 노드가 뉴스 기사이고, 간선이 기사들 간 공유되는 맥락적 요소(예: 기업 이름, 사건)를 나타내는 속성 부여된 뉴스 네트워크를 구축한다.
• 서브워드 임베딩에 영감을 받은 서브노드 모델을 적용하여 각 뉴스 노드를 의미, 시간, 카테고리 등의 특징 벡터의 합으로 표현한다.
• 속성 부여된 네트워크에서 편향된 무작위 보행을 수행하여 구조적 및 특징 기반 관계를 유지하는 학습 시퀀스를 생성한다.
• 스킵그램 아키텍처를 사용하여 무작위 보행 시퀀스에서 뉴스 기사의 조밀한 벡터 표현을 학습한다.
• 학습된 DRNews 임베딩을 주로 시퀀스 모델링을 위해 어텐션 기반 장기 숏텀 기억(기억)(LSTM) 네트워크에 통합한다.
• 역사적 뉴스와 주가 움직임 데이터를 기반으로 엔드 투 엔드 모델을 훈련시키며, 어텐션 메커니즘을 통해 예측에 기여하는 주요 뉴스 특징을 강조한다.

실험 결과

연구 질문

• RQ1 뉴스 기사 간 문서 간 관계를 모델링하면 주식 시장 예측 성능이 향상되는가?
• RQ2 감성, 시기, 기관 언급 등의 다양한 뉴스 특징은 주식 이동과 위기 예측에 어떻게 영향을 미치는가?
• RQ3 어떤 정도까지 어텐션 메커니즘이 단기 가격 변동과 체계적 시장 위기의 원인이 되는 정보 원천을 구분하여 드러내는가?
• RQ4 서브노드 기반 접근 방식이 특징이 풍부한 표현을 유지하면서도 새로운 뉴스 기사에 대한 효과적인 임베딩을 제공할 수 있는가?
• RQ5 뉴스 임베딩에 구조적 및 맥락 지식을 통합하면 표준 단어 평균화 또는 비지도 임베딩 모델 대비 우수한 성능을 달성할 수 있는가?

주요 결과

• DRNews는 단기 주식 이동 예측의 삼분류 과제에서 테스트 세트 정확도 46.24%를 기록하여 다섯 가지 베이스라인을 모두 능가했다.
• 주식 위기 조기 경고 과제에서는 테스트 세트 정확도 94.61%를 기록했으며, 평균적으로 시장 혼란 발생 2.5일 전에 경고를 제공했다.
• 어텐션 메커니즘은 단기 주식 이동이 주식 시장 자체와 관련된 뉴스, 예를 들어 상장, 거래량, 지수 변화와 가장 민감하게 연관되어 있음을 드러냈다.
• 반면, 주식 시장 위기는 은행 부문 뉴스, 통화 정책, 금리 및 준비금률과 같은 거시경제 지표와 관련된 뉴스에 의해 주로 이끌린다.
• 모델은 특히 중국 인민은행과 주요 상업은행의 기관 언급이 체계적 리스크 예측에 매우 영향력 있음을 밝혀냈다.
• 서브노드 모델은 재학습 없이도 새로운 미리보기 없는 뉴스의 특징을 기존 임베딩 공간에 투영함으로써 빠른 추론을 가능하게 했다.