[論文レビュー] A Novel Distributed Representation of News (DRNews) for Stock Market Predictions

Ye Ma, Lu Zong+1 more|arXiv (Cornell University)|May 24, 2020

Stock Market Forecasting Methods参考文献 47被引用数 4

ひとこと要約

本稿では、属性付きニュースネットワークを用いて意味的コンテンツとドキュメント間の関係性を同時にモデル化する、新しい分散表現であるDRNewsを提案する。サブワードベースの特徴集約とバイアス付きランダムウォークを統合することで、DRNewsは株価予測性能を向上させ、短期的な価格動向予測で46.24%の精度を達成し、市場危機の2.5日分の早期警戒期間を有する予測で94.61%の精度を達成した。これは5つのベースラインを上回った。

ABSTRACT

In this study, a novel Distributed Representation of News (DRNews) model is developed and applied in deep learning-based stock market predictions. With the merit of integrating contextual information and cross-documental knowledge, the DRNews model creates news vectors that describe both the semantic information and potential linkages among news events through an attributed news network. Two stock market prediction tasks, namely the short-term stock movement prediction and stock crises early warning, are implemented in the framework of the attention-based Long Short Term-Memory (LSTM) network. It is suggested that DRNews substantially enhances the results of both tasks comparing with five baselines of news embedding models. Further, the attention mechanism suggests that short-term stock trend and stock market crises both receive influences from daily news with the former demonstrates more critical responses on the information related to the stock market {\em per se}, whilst the latter draws more concerns on the banking sector and economic policies.

研究の動機と目的

• ニュースイベント間の意味的コンテンツとドキュメント間関係性を捉えるニュース埋め込みモデルの開発。
• 時刻、分類、感情など多様なニュース特徴を統合的に統一ベクトル空間に埋め込むことで、より豊かな表現を実現。
• ニュース記事間の潜在的リンクをネットワーク構造でモデル化することで、株式市場予測の性能を向上。
• サブノードベースのアプローチを用いて、未学習のノードにまで拡張可能な手法により、新規に公開されたニュースの高速推論を可能に。
• 2つの重要なタスク、すなわち短期株価動向予測とシステミック危機の早期警戒に関するモデルの評価。

提案手法

• ノードがニュース記事を表し、エッジが複数の記事に共通する文脈的要素（例：企業名、出来事）を表す属性付きニュースネットワークを構築。
• サブワード埋め込みにインspiredされたサブノードモデルを用い、各ニュースノードをその特徴ベクトル（例：意味的、時系列的、分類的）の和として表現。
• 属性付きネットワーク上でバイアス付きランダムウォークを実行し、構造的および特徴ベースの関係性を保持するトレーニングシーケンスを生成。
• スイップグラムアーキテクチャを用いて、ランダムウォークシーケンスからニュース記事の高密度ベクトル表現を学習。
• 学習済みのDRNews埋め込みを、ニュースシーケンスの順序的モデリングに用いるアテンションベースの長短期記憶（LSTM）ネットワークに統合。
• 歴史的ニュースと株価動向のデータを用いてエンドツーエンドのモデルを学習し、アテンション機構が予測に寄与する顕著なニュース特徴を強調。

実験結果

リサーチクエスチョン

• RQ1 ニュース記事間のドキュメント間関係性をモデル化することで、株式市場予測性能が向上するか？
• RQ2 感情、時刻、機関名の記載といった異なるニュース特徴は、株価動向と危機予測にどのように影響を与えるか？
• RQ3 アテンション機構は、短期的な価格変動とシステミック市場危機を引き起こす要因となる情報源を、どのように異なる形で明らかにするか？
• RQ4 サブノードベースのアプローチは、再学習なしに未学習のニュース記事を特徴豊富な表現を保ちつつ効果的に埋め込むことができるか？
• RQ5 ニュース埋め込みに構造的および文脈的知識を統合することで、標準的な単語平均化や非教師あり埋め込みモデルと比較して、優れた性能を発揮するか？

主な発見

• DRNewsは、短期的株価動向予測の三値分類タスクにおいて、テストセットで46.24%の精度を達成し、5つのベースラインモデルを上回った。
• 株式市場危機の早期警戒において、DRNewsはテストセットで94.61%の精度を達成し、市場の混乱発生の平均2.5日前に早期警戒を可能にした。
• アテンション機構の分析から、短期的な株価動向は、上場情報、取引量、インデックス変更といった、株式市場自体に関連するニュースに最も敏感であることが明らかになった。
• 一方で、株式市場危機は、銀行セクター、金融政策、金利や準備率といったマクロ経済指標に関連するニュースによって主に駆動されている。
• モデルは、人民銀行や主要商業銀行からの機関名の記載が、システミックリスク予測において極めて重要な影響を持つことを示した。
• サブノードモデルにより、再学習なしに新規の未学習ニュースを既存の埋め込み空間に特徴を投影することで、高速な推論が可能になった。