[논문 리뷰] Incorporating Fine-grained Events in Stock Movement Prediction

Deli Chen, Yanyan Zou외 4명|arXiv (Cornell University)|2019. 10. 11.

Stock Market Forecasting Methods참고 문헌 28인용 수 4

한 줄 요약

이 논문은 도메인 특화 재무 이벤트 사전(TFED)을 통해 추출한 세분화된 재무 이벤트 구조를 신경망 모델에 통합함으로써 주가 움직임 예측을 위한 새로운 접근법을 제안한다. 이 방법은 구조화된 주가 예측 모델(SSPM)과 이벤트 추출 및 주가 예측을 동시에 학습하는 다중 작업 프레임워크(MSSPM)를 사용하여, 예측 성능이 뛰어나고, 예측 가능한 뉴스 유형 외의 뉴스에 대해서도 일반화 능력이 뛰어나다.

ABSTRACT

Considering event structure information has proven helpful in text-based stock movement prediction. However, existing works mainly adopt the coarse-grained events, which loses the specific semantic information of diverse event types. In this work, we propose to incorporate the fine-grained events in stock movement prediction. Firstly, we propose a professional finance event dictionary built by domain experts and use it to extract fine-grained events automatically from finance news. Then we design a neural model to combine finance news with fine-grained event structure and stock trade data to predict the stock movement. Besides, in order to improve the generalizability of the proposed method, we design an advanced model that uses the extracted fine-grained events as the distant supervised label to train a multi-task framework of event extraction and stock prediction. The experimental results show that our method outperforms all the baselines and has good generalizability.

연구 동기 및 목표

• 세분화된 이벤트 구조를 사용함으로써 굵은 $<$S,P,O$>$ 삼중항보다 더 나은 주가 움직임 예측을 달성하고자 한다.
• 기존 모델이 사전에 정의된 이벤트 사전에 포함되지 않은 뉴스(즉, '커버되지 않은 뉴스')에 대해 실패하는 한계를 해결하고자 한다.
• 세분화된 이벤트에서 유도된 원거리 감독을 활용해 이벤트 추출과 주가 예측을 동시에 학습시킴으로써 모델의 일반화 능력을 향상시키고자 한다.
• 재무 전문가의 도메인 전문 지식을 반영한 전문적인 재무 이벤트 사전(TFED)을 개발하여 재무 뉴스에서 정확한 세분화된 이벤트 추출을 가능하게 하고자 한다.
• 텍스트, 이벤트 구조, 분단위 주가 거래 데이터를 효과적으로 융합할 수 있는 신경망 아키텍처를 설계하고자 한다.

제안 방법

• 재무 전문가가 참여한 32개의 이벤트 유형을 포함한 도메인 특화 TOPIX 재무 이벤트 사전(TFED)을 구축하여 세분화된 이벤트 추출을 가능하게 한다.
• TFED를 사용해 재무 뉴스에서 세분화된 이벤트(이벤트 유형, 트리거, Time, Value, Change Rate 등의 역할 포함)를 자동으로 추출한다.
• 뉴스 텍스트, 세분화된 이벤트 구조, 시계열 주가 거래 데이터를 어텐션 및 게이팅 메커니즘을 통해 융합하는 구조화된 주가 예측 모델(SSPM)을 설계한다.
• 세분화된 이벤트를 원거리 감독으로 사용하여 이벤트 추출과 주가 예측을 동시에 학습하는 다중 작업 구조화된 주가 예측 모델(MSSPM)을 제안한다.
• 표현 학습을 향상시키기 위해 뉴스와 주가 데이터 간의 게이팅 융합 메커니즘과 공통 어텐션(co-attention)을 구현한다.
• MSSPM에 CRF 레이어를 적용하여 이벤트 추출의 시퀀스 레이블링 일관성을 향상시킨다.

실험 결과

연구 질문

• RQ1 세분화된 이벤트 구조를 통합하면 굵은 $<$S,P,O$>$ 삼중항을 사용하는 것보다 더 나은 주가 움직임 예측 성능을 달성할 수 있는가?
• RQ2 사전에 정의된 이벤트 사전에 포함되지 않은 뉴스(즉, 커버되지 않은 뉴스)에 대해 주가 예측 모델의 성능은 어떻게 변하는가?
• RQ3 이벤트 추출과 주가 예측을 동시에 학습시키는 것이, 예측 불가능하거나 OOV(Out-of-Vocabulary) 이벤트에 대한 모델의 일반화 능력을 향상시키는가?
• RQ4 어텐션 메커니즘과 융합 모듈이 모델의 예측 성능에 얼마나 기여하는가?
• RQ5 세분화된 이벤트를 원거리 감독으로 사용하면 이벤트 추출 모듈의 강건성(로버스트성)이 향상되는가?

주요 결과

• SSPM 모델은 커버된 뉴스에서 67.6%의 정확도를 기록하여 모든 베이스라인을 초월하며, 세분화된 이벤트 통합의 효과를 입증한다.
• 커버되지 않은 뉴스에서는 SSPM의 정확도가 63.4%로 하락하여, 고정된 TFED 사전에 의존하는 한계로 인한 일반화 능력의 제한을 보여준다.
• MSSPM 모델은 커버되지 않은 뉴스에서 정확도를 65.2%까지 향상시켜 SSPM 대비 1.8% 상대적 향상을 보이며, 일반화 능력 향상을 확인한다.
• MSSPM의 다중 작업 학습 접근법은 이벤트 추출의 마이크로-F1을 84.3%까지 향상시키고 주가 예측의 MCC를 0.315로 높여, 파이프라인 방법(79.2% F1, 0.297 MCC)을 능가한다.
• 제거 실험 결과, 융합 기능을 제거하면 SSPM 정확도가 1.5%p 감소하고 MSSPM는 1.1%p 감소하여, 이 기능이 특징 융합에 있어 핵심적인 역할을 한다는 것을 입증한다.
• 뉴스와 주가 데이터 간의 공통 어텐션 메커니즘을 제거하면 SSPM의 정확도가 1.3%p 하락하여, 이는 다중 모odal 상호작용에서의 중요성을 강조한다.