[논문 리뷰] Stock Movement Prediction Based on Bi-typed Hybrid-relational Market Knowledge Graph via Dual Attention Networks

Yu Zhao, Huaming Du외 7명|arXiv (Cornell University)|2022. 01. 11.

Stock Market Forecasting Methods인용 수 12

한 줄 요약

이 논문은 주식 가격 변동 예측을 향상시키기 위해 명시적이고 암묵적인 관계를 포함한 이중 유형의 하이브리드 관계 시장 지식 그래프(목록 상장 기업과 그 임원 포함)를 활용하는 이중 주의망(DanSmp)을 제안한다. 클래스 간 및 클래스 내 주의 메커니즘을 통해 모멘텀 전이 효과를 모델링함으로써 DanSmp는 두 개의 커스텀 데이터셋에서 최신 기술 수준의 성능을 달성하였으며, CSI100E에서 정확도는 최대 57.75%이며 AUC는 60.78%를 기록하였다.

ABSTRACT

Stock Movement Prediction (SMP) aims at predicting listed companies' stock future price trend, which is a challenging task due to the volatile nature of financial markets. Recent financial studies show that the momentum spillover effect plays a significant role in stock fluctuation. However, previous studies typically only learn the simple connection information among related companies, which inevitably fail to model complex relations of listed companies in the real financial market. To address this issue, we first construct a more comprehensive Market Knowledge Graph (MKG) which contains bi-typed entities including listed companies and their associated executives, and hybrid-relations including the explicit relations and implicit relations. Afterward, we propose DanSmp, a novel Dual Attention Networks to learn the momentum spillover signals based upon the constructed MKG for stock prediction. The empirical experiments on our constructed datasets against nine SOTA baselines demonstrate that the proposed DanSmp is capable of improving stock prediction with the constructed MKG.

연구 동기 및 목표

• 이전 모델들이 기업 간 관계 모델링이 단순화되어 복잡한 모멘텀 전이 효과를 포착하지 못하는 데 기인한 한계를 해결하기 위해.
• 목록 상장 기업과 그 연관 임원을 이중 유형 엔티티로 포함하고 명시적 및 암묵적 관계를 포함한 종합적인 시장 지식 그래프(MKG)를 구축하기 위해.
• 이질적인 엔티티와 하이브리드 관계를 통해 클래스 간 및 클래스 내 상호작용을 학습할 수 있는 새로운 딥러닝 모델인 DanSmp를 개발하여 주식 가격 변동 예측 성능을 향상시키기 위해.
• 실제 금융 데이터셋을 대상으로 제안된 MKG와 DanSmp 모델의 효과성을 9개의 최신 기술 수준 기준 모델들과의 비교를 통해 실증적으로 검증하기 위해.

제안 방법

• 목록 상장 기업과 그 연관 임원을 포함하고 명시적 및 암묵적 관계를 포함하는 이중 유형의 하이브리드 관계 시장 지식 그래프(MKG)를 구성한다.
• 이중 주의망(DanSmp) 모델을 설계하며, 주요 모듈로는 기업과 임원 간의 상호작용을 모델링하는 클래스 간 주의 모듈과 각 엔티티 유형 내부의 상호작용을 모델링하는 클래스 내 주의 모듈을 포함한다.
• 그래프 내 메시지 전달 과정에서 중요한 관계—특히 암묵적인 관계—를 동적으로 강조하기 위해 학습 가능한 주의 가중치를 적용한다.
• 기본 브랜치 아키텍처를 사용하여 기업 및 임원 엔티티를 별도로 처리한 후 최종 예측을 위해 표현을 융합한다.
• 이전 가격 추세에 기반한 교차 엔트로피 손실을 사용하여 모델을 엔드 투 엔드로 훈련하며, 주의 점수는 관계 유형과 노드 특징에 맞게 조정된다.
• 유사도 점수 기반 임계값 기반 메커니즘을 도입하여 암묵적 관계를 필터링하며, 하이퍼파ram터 T(과거 윈도우 크기)와 η(임계값)에 대한 민감도 분석을 수행한다.

Figure 1. Example of a bi-typed (i.e. listed companies , and executives ) hybrid-relational (i.e. explicit relations , and implicit relation ) market knowledge graph (MKG). The relational information in MKG is essential for stock prediction but has not been well utilized in previous works.

실험 결과

연구 질문

• RQ1 MKG에 연관된 임원과 암묵적 관계를 포함할 경우 주식 가격 변동 예측 성능에 어떤 영향을 미치는가?
• RQ2 동종 또는 단일 주의 모델에 비해 이중 주의 메커니즘이 특징 표현 학습에 얼마나 향상된 성능을 보이는가?
• RQ3 산업, 공급망, 툈자, 사업 제휴, 암묵적 관계 등 어떤 유형의 관계가 예측 성능 향상에 가장 기여하는가?
• RQ4 모델 성능이 과거 윈도우 크기 T와 암묵적 관계 임계값 η와 같은 하이퍼파ram터에 얼마나 민감한가?
• RQ5 각 구성 요소(임원, 암묵적 관계, 이중 주의)가 전체 성능 향상에 기여하는 정도는 어느 정도인가?

주요 결과

• 제안된 DanSmp 모델은 CSI100E 데이터셋에서 57.75%의 정확도와 60.78%의 AUC를 기록하여 9개의 SOTA 기준 모델을 모두 초월하였다.
• 제거 실험 결과, 연관된 임원을 제거할 경우 정확도가 52.71%로 감소하여 그들이 성능 향상에 핵심적인 역할을 한다는 점을 확인하였다.
• 암묵적 관계를 포함시킬 경우 성능이 크게 향상되었으며, 이를 제거할 경우 정확도가 53.52%로 떨어져 숨겨진 모멘텀 전이 신호를 포착하는 데 그 가치가 있음을 보여주었다.
• 모델은 암묵적 관계에 가장 높은 주의 가중치를 할당하였으며, 이어 산업, 공급망, 투자 관계 순으로 높고, 사업 제휴 관계는 가장 낮은 점수를 기록하여 밀도 높은 명시적 관계에 잡음이 존재할 수 있음을 시사하였다.
• CSI100E에서 최적의 성능은 과거 윈도우 크기 T ≈ 20과 암묵적 관계 임계값 η = 0.0054일 때 달성되었으며, η 값이 높아질수록 의미 있는 간선 손실로 인해 성능이 저하됨을 확인하였다.
• 민감도 분석 결과 성능은 η 값 증가 초반에는 증가하다가 결국 감소함을 확인하여 노이즈 감소와 정보 유지 간의 상충 관계가 있음을 시사하였다.

Figure 2. The overall framework of the proposed method. (I) Learning Stock Sequential Embeddings based on Tensor Fusion and GRU. Tensor Fusion is the Neural Tensor Network (NTN) to learn the fusion of the technical indicators vector ${\bf p}_{i}$ and media news sentiment features ${\bf q}_{i}$ . The