[論文レビュー] News-Driven Stock Prediction With Attention-Based Noisy Recurrent State Transition

Xiao Liu, Heyan Huang+2 more|arXiv (Cornell University)|Apr 4, 2020

Stock Market Forecasting Methods参考文献 24被引用数 6

ひとこと要約

本論文では、LSTMベースの再帰的状態を用いてニュースイベントの影響とランダムノイズを統合することで、潜在的株価動態を明示的にモデル化する注目メカニズムを備えたノイズあり再帰的状態遷移モデルANRESを提案する。ベンチマークデータ上で強力なベースラインを上回り、注目可視化による説明可能性の向上を伴い、最先端の結果を達成した。

ABSTRACT

We consider direct modeling of underlying stock value movement sequences over time in the news-driven stock movement prediction. A recurrent state transition model is constructed, which better captures a gradual process of stock movement continuously by modeling the correlation between past and future price movements. By separating the effects of news and noise, a noisy random factor is also explicitly fitted based on the recurrent states. Results show that the proposed model outperforms strong baselines. Thanks to the use of attention over news events, our model is also more explainable. To our knowledge, we are the first to explicitly model both events and noise over a fundamental stock value state for news-driven stock movement prediction.

研究の動機と目的

• 価格変動を独立事象として扱うのではなく、時間の経過に伴う潜在的株価移動の連続的進化をモデル化すること。
• ニュースイベントとランダムノイズが株価遷移に与える影響を明示的に分離し、それぞれを別々にモデル化すること。
• ニュースイベントに対する注目メカニズムを用いて、予測に影響を与える重要な出来事を特定することで、ニュース駆動型株価予測の説明可能性を向上させること。
• LSTMのピアホール・コネクションを用いて、ニュースインパクトと確率的ノイズを統合した一貫した再帰的状態遷移フレームワークに統合すること。
• 歴史的株価データに依存せずに、株価の個別的移動をニュース入力のみで予測可能にする仕組みを提供すること。

提案手法

• 本モデルは、ピアホール接続付きLSTMを用いて、時間の経過に伴い進化する基本的株価状態を維持する。
• ニュースイベント表現はニューラル注目メカニズムを介して集約され、再帰的状態遷移に与える影響が計算される。
• 別個のノイズ成分は確率的サンプリングを用いて明示的にモデル化され、感情、期待値、およびランダムな市場変動を含めた要因を考慮できる。
• 本モデルは、過去の「将来」データを用いて訓練された将来の出来事予測モジュールを統合しており、予期される将来の出来事とその影響を事前に予測可能である。
• 本システム全体は、歴史的株価シーケンスを入力とせず、ニュース入力からの直接的な株価移動予測を目的として訓練される。
• 解釈可能性を高めるために、注目重みを可視化し、各時刻における予測に最も影響を与えた過去のニュースイベントを特定する。

実験結果

リサーチクエスチョン

• RQ1 過去と未来の株価移動の連続的相関をモデル化することで、ニュース駆動型株価予測の精度が向上するか？
• RQ2 ニュースイベントと併せてノイズを明示的にモデル化することで、モデルのロバストネスとパフォーマンスにどのような影響を与えるか？
• RQ3 ニュースイベントに対する注目メカニズムが、株価予測タスクにおけるモデルの説明可能性をどの程度向上させるか？
• RQ4 将来の出来事予測モジュールを組み込むことで、モデルの市場動向予測能力が向上するか？
• RQ5 再帰的状態ベースのアプローチは、各予測を独立事象として扱う既存の分類型モデルを上回るか？

主な発見

• ANRESモデルはベンチマークデータセットで最先端のパフォーマンスを達成し、精度とマシュー相関係数（MCC）の両面で強力なベースラインを上回った。
• 個別株式予測において、企業固有のニュースのみを用いることで著しく優れた結果（アップルでは69.21％の精度）が得られたのに対し、業界レベルや全ニュース入力では性能が低下した。これは、関係のないニュースが性能を損なう要因であることを示している。
• 注目可視化により、モデルが新規に出現したニュースイベントに過剰に注目する傾向があることが判明した。これは、イベントの影響が誤って評価された場合、誤った予測を引き起こす原因となる可能性がある。
• 本モデルは、時間窓内における複数のニュースイベントの非線形的かつ合成的効果を効果的に捉えており、複雑な市場ダイナミクスのより良いモデル化を可能にした。
• ノイズ成分の導入により一般化性能が向上し、外部要因やデータ内のランダムな変動に対する過学習が軽減された。
• 将来の出来事予測モジュールにより、モデルは予期されるその後の出来事に対応可能となり、間接的なインサイダー取引要因のモデル化が可能になった。