[논문 리뷰] Temporal-Relational Hypergraph Tri-Attention Networks for Stock Trend Prediction

Chaoran Cui, Xiaojie Li외 5명|arXiv (Cornell University)|2021. 07. 22.

Stock Market Forecasting Methods참고 문헌 47인용 수 9

한 줄 요약

이 논문은 시간적 동적 특성을 어텐션 기반 RNN를 통해 캡처하고, 산업 및 자금 보유 연결의 초그래프를 통해 주식 간 집단적 관계를 모델링하는 HGTAN이라는 시간적-관계적 초그래프 삼중 어텐션 네트워크를 제안한다. 이 방법은 백테스팅에서 기존 방법들을 능가하는 우수한 위험 조정 수익률을 달성한다.

ABSTRACT

Predicting the future price trends of stocks is a challenging yet intriguing problem given its critical role to help investors make profitable decisions. In this paper, we present a collaborative temporal-relational modeling framework for end-to-end stock trend prediction. The temporal dynamics of stocks is firstly captured with an attention-based recurrent neural network. Then, different from existing studies relying on the pairwise correlations between stocks, we argue that stocks are naturally connected as a collective group, and introduce the hypergraph structures to jointly characterize the stock group-wise relationships of industry-belonging and fund-holding. A novel hypergraph tri-attention network (HGTAN) is proposed to augment the hypergraph convolutional networks with a hierarchical organization of intra-hyperedge, inter-hyperedge, and inter-hypergraph attention modules. In this manner, HGTAN adaptively determines the importance of nodes, hyperedges, and hypergraphs during the information propagation among stocks, so that the potential synergies between stock movements can be fully exploited. Extensive experiments on real-world data demonstrate the effectiveness of our approach. Also, the results of investment simulation show that our approach can achieve a more desirable risk-adjusted return. The data and codes of our work have been released at https://github.com/lixiaojieff/HGTAN.

연구 동기 및 목표

• 단순한 주식 간 이원 상관관계가 아닌 집단 수준의 관계를 모델링하여 주식 추세 예측의 과제를 해결하고자 한다.
• 산업 및 자금 보유 연결을 반영하는 시간적 동적 특성과 관계적 초그래프 구조를 통합하여 주식 움직임의 표현을 향상시키고자 한다.
• 정보 전파 과정에서 노드, 초모서리, 초그래프 수준의 중요도를 적응적으로 가중하는 계층적 어텐션 메커니즘을 개발하고자 한다.
• 상호작용적인 주식 행동을 향상된 방식으로 모델링하여 종합적인 주식 추세 예측을 실현하고자 한다.
• 최첨단 방법들과 비교하여 실제 데이터 기반 투자 시뮬레이션에서 뛰어난 성능을 보이며 더 나은 위험 조정 수익률을 달성하고자 한다.

제안 방법

• 개별 주식 시계열의 시간적 동적 특성을 어텐션 기반 순환 신경망(RNN)을 사용하여 모델링한다.
• 공동 산업 소속 및 자금 보유 정보를 바탕으로 주식 간 집단적 관계를 표현하기 위해 초그래프 구조를 구성한다.
• 내부 초모서리, 초모서리 간, 초그래프 간 어텐션 모듈 3개를 갖는 새로운 초그래프 삼중 어텐션 네트워크(HGTAN)를 도입한다.
• 내부 초모서리 어텐션은 단일 초모서리 내에서 노드의 중요도에 집중하여 국소적 관계를 캡처한다.
• 초모서리 간 어텐션은 여러 초모서리 간의 정보를 집계하여 교차 그룹 상호작용을 모델링한다.
• 초그래프 간 어텐션은 서로 다른 초그래프 구조(예: 산업 vs. 자금 보유) 간의 학습을 가능하게 하여 글로벌 표현 학습을 강화한다.

실험 결과

연구 질문

• RQ1 초그래프를 통해 주식 간 집단적 관계를 모델링하는 것이 이원 상관관계를 넘어서 주식 추세 예측 성능을 향상시키는가?
• RQ2 계층적 삼중 어텐션 메커니즘이 주식 관계 모델링에서 노드, 초모서리, 초그래프 수준의 중요도를 얼마나 효과적으로 캡처하는가?
• RQ3 시간적 동적 특성과 관계적 초그래프 구조의 통합이 더 나은 예측 성능과 위험 조정 수익률을 이끌어내는가?
• RQ4 HGTAN이 실제 세계 데이터에서 기존의 어텐션 기반 및 그래프 기반 모델들보다 얼마나 뛰어난 성능을 보이는가?

주요 결과

• HGTAN은 실제 주식 추세 예측 벤치마크에서 최첨단 성능을 달성하며, 기존의 어텐션 기반 및 그래프 기반 모델들을 능가한다.
• 투자 시뮬레이션 결과, HGTAN은 기준 모델들보다 더 바람직한 위험 조정 수익률을 생성한다.
• 제거 실험 결과, 삼중 어텐션 메커니즘의 각 구성 요소—특히 초그래프 간 어텐션—이 성능 향상에 크게 기여하는 것으로 확인되었다.
• 초그래프 구조의 사용은 산업 및 자금 보유 맥락에서 주식 간 집단적 상호보완성을 효과적으로 캡처한다.
• 계층적 어텐션 메커니즘 덕분에 다양한 시장 조건에서도 모델이 강건하고 일반화 능력을 갖춘다.