[論文レビュー] Stock Movement Prediction Based on Bi-typed Hybrid-relational Market Knowledge Graph via Dual Attention Networks

Yu Zhao, Huaming Du+7 more|arXiv (Cornell University)|Jan 11, 2022

Stock Market Forecasting Methods被引用数 12

ひとこと要約

本稿では、上場企業とその経営陣を含む明示的・暗黙的関係を有する二種類のタイプのハイブリッド関係的市場知識グラフを活用することで、株価動向予測を向上させるデュアルアテンションネットワークであるDanSmpを提案する。クラス間およびクラス内アテンション機構を用いてモーメンタムスプライルオーバー効果をモデル化することで、2つのカスタムデータセットにおいて最先端の性能を達成し、CSI100Eでは最高57.75%の正解率、AUCは60.78%を達成した。

ABSTRACT

Stock Movement Prediction (SMP) aims at predicting listed companies' stock future price trend, which is a challenging task due to the volatile nature of financial markets. Recent financial studies show that the momentum spillover effect plays a significant role in stock fluctuation. However, previous studies typically only learn the simple connection information among related companies, which inevitably fail to model complex relations of listed companies in the real financial market. To address this issue, we first construct a more comprehensive Market Knowledge Graph (MKG) which contains bi-typed entities including listed companies and their associated executives, and hybrid-relations including the explicit relations and implicit relations. Afterward, we propose DanSmp, a novel Dual Attention Networks to learn the momentum spillover signals based upon the constructed MKG for stock prediction. The empirical experiments on our constructed datasets against nine SOTA baselines demonstrate that the proposed DanSmp is capable of improving stock prediction with the constructed MKG.

研究の動機と目的

• 従来のモデルが単純化された企業関係モデリングのため、金融市場における複雑なモーメンタムスプライルオーバー効果を捉えられていないという限界を解消すること。
• 上場企業と関連経営陣を二種類のタイプのエンティティとして含み、明示的および暗黙的関係を含む包括的な市場知識グラフ（MKG）を構築すること。
• 異種エンティティおよびハイブリッド関係を介したクラス間およびクラス内相互作用を学習可能な、新たな深層学習モデルであるDanSmpを開発し、株価動向予測を改善すること。
• 実世界の金融データセットを用いて、提案されたMKGおよびDanSmpモデルが9つの最先端のベースラインと比較して有効であることを実証的に検証すること。

提案手法

• 上場企業と関連経営陣を含み、明示的および暗黙的関係を含む、二種類のタイプのハイブリッド関係的市場知識グラフ（MKG）を構築する。
• 二つの主要モジュールを備えたデュアルアテンションネットワーク（DanSmp）モデルを設計する：クラス間アテンションモジュール（企業と経営陣間の相互作用をモデル化）とクラス内アテンションモジュール（各エンティティタイプ内での相互作用をモデル化）。
• グラフ内のメッセージパッシング中に、特に暗黙的関係を動的に強調するため、学習可能なアテンション重みを適用する。
• 企業および経営陣エンティティを別々に処理するデュアルブランチアーキテクチャを採用し、最終予測のための表現を統合する。
• 歴史的価格トレンドを用いた交差エントロピー損失を用いて、エンドツーエンドでモデルを訓練し、アテンションスコアを関係タイプおよびノード特徴に適合させる。
• 類似度スコアに基づき、暗黙的関係をフィルタリングするためのしきい値ベースのメカニズムを導入し、ハイパーパramータ T（ルックバックウィンドウ）およびη（しきい値）の感度分析を実施する。

Figure 1. Example of a bi-typed (i.e. listed companies , and executives ) hybrid-relational (i.e. explicit relations , and implicit relation ) market knowledge graph (MKG). The relational information in MKG is essential for stock prediction but has not been well utilized in previous works.

実験結果

リサーチクエスチョン

• RQ1 MKGに関連経営陣と暗黙的関係を含めることで、株価動向予測性能にどのような影響を与えるか？
• RQ2 同種または単一アテンションモデルと比較して、デュアルアテンション機構は特徴表現学習をどの程度改善できるか？
• RQ3 業界、サプライチェーン、投資、事業提携、暗黙的関係などの関係タイプのうち、予測性能に最も寄与するのはどれか？
• RQ4 ルックバックウィンドウサイズ T や暗黙的関係のしきい値 η といったハイパーパramータの変更に、モデルの性能はどの程度感度を示すか？
• RQ5 各コンポーネント（経営陣、暗黙的関係、デュアルアテンション）が全体の性能向上に果たす寄与度はどの程度か？

主な発見

• 提案されたDanSmpモデルは、CSI100Eデータセットで57.75%の正解率と60.78%のAUCを達成し、全9つのSOTAベースラインを上回った。
• アブレーションスタディの結果、関連経営陣を削除すると正解率が52.71%に低下し、その重要性が裏付けられた。
• 暗黙的関係の導入により性能が顕著に向上し、削除すると正解率が53.52%に低下した。これは、隠れたモーメンタムスプライルオーバー信号を捉える上で暗黙的関係の価値が大きいことを示している。
• モデルは暗黙的関係に最も高いアテンション重みを割り当てており、次いで業界、サプライチェーン、投資の順に高く、事業提携は最も低いスコアを示した。これは、密な明示的関係にノイズが含まれる可能性があることを示唆している。
• 最適な性能は、CSI100Eでルックバックウィンドウサイズ T ≈ 20 および暗黙的関係のしきい値 η = 0.0054 の組み合わせで達成され、η値が高くなると意味のあるエッジが失われるため性能が低下した。
• 感度分析の結果、性能はηの増加に伴い一時的に向上するが、最終的には低下することが判明し、ノイズ低減と情報保持のトレードオフが存在することが示された。

Figure 2. The overall framework of the proposed method. (I) Learning Stock Sequential Embeddings based on Tensor Fusion and GRU. Tensor Fusion is the Neural Tensor Network (NTN) to learn the fusion of the technical indicators vector ${\bf p}_{i}$ and media news sentiment features ${\bf q}_{i}$ . The