[論文レビュー] A Novel Ensemble Deep Learning Model for Stock Prediction Based on Stock Prices and News

Yang Li, Yi Pan|arXiv (Cornell University)|Jul 23, 2020

Stock Market Forecasting MethodsDecision Sciences参考文献 22被引用数 17

ひとこと要約

本稿では、長短期記憶（LSTM）とゲート付き再帰ユニット（GRU）ネットワークを、完全結合ニューラルネットワークと組み合わせた新規なブレンドアンサンブル深層学習モデルを提案する。このモデルは、歴史的株価とニュースセンチメントの両方を用いて、株価の動きを予測する。従来の手法と比較して、平均二乗誤差（MSE）を57.55%低減し、動きの方向精度（MDA）を33.34%向上させ、株価トレンド予測において優れた性能を示している。

ABSTRACT

In recent years, machine learning and deep learning have become popular methods for financial data analysis, including financial textual data, numerical data, and graphical data. This paper proposes to use sentiment analysis to extract useful information from multiple textual data sources and a blending ensemble deep learning model to predict future stock movement. The blending ensemble model contains two levels. The first level contains two Recurrent Neural Networks (RNNs), one Long-Short Term Memory network (LSTM) and one Gated Recurrent Units network (GRU), followed by a fully connected neural network as the second level model. The RNNs, LSTM, and GRU models can effectively capture the time-series events in the input data, and the fully connected neural network is used to ensemble several individual prediction results to further improve the prediction accuracy. The purpose of this work is to explain our design philosophy and show that ensemble deep learning technologies can truly predict future stock price trends more effectively and can better assist investors in making the right investment decision than other traditional methods.

研究の動機と目的

• 数値的株価データとテキスト的ニュースセンチメントを効果的に統合し、株価の動きをより良く予測できる深層学習モデルの開発。
• 従来のモデルが価格データのみ、またはテキストデータのみを扱う、あるいは時系列ダイナミクスを十分に考慮しないという限界を解消すること。
• 複数の再帰的アーキテクチャを用いたアンサンブル学習により、予測精度を向上させること。
• 多様なRNNとセンチメント分析を組み合わせることで、ファイナンシャルフォレキャスティングにおけるモデルの頑健性と性能が向上することを実証すること。

提案手法

• モデルは二段階のアンサンブルアーキテクチャを採用する：第1段階では、LSTMとGRUの2つの独立したRNNが、それぞれ時系列的株価データとニュースセンチメントデータを処理する。
• ニュース記事に対してセンチメント分析を適用し、ポジティブまたはネガティブなセンチメントスコアを抽出し、これを入力特徴としてRNNに供給する。
• LSTMとGRUの出力を連結し、完全結合ニューラルネットワーク（FCNN）に渡して、最終的な株価方向予測を生成する。
• ブレンドアンサンブルアプローチにより、複数のRNNの予測を統合し、分散を低減し、一般化性能を向上させる。
• モデルは、バックプロパゲーションを用い、Adam最適化法でエンドツーエンドに訓練され、履歴データ上の平均二乗誤差を最小化する。
• 固定された履歴ウィンドウサイズを用いて、関連する過去の出来事の情報を捉え、記憶保持性と関連性のバランスを取る。

実験結果

リサーチクエスチョン

• RQ1 LSTMとGRUの複数の再帰的ニューラルネットワークを、センチメント強化入力と組み合わせることで、株価の方向予測精度が向上するか？
• RQ2 株価とニュースデータの両方を用いて株価の動きを予測する際、アンサンブルモデルの性能は、個々のRNNや従来のモデルと比べてどのように異なるか？
• RQ3 ニュース記事からのテキスト的センチメントを組み込むことで、数値的価格データのみを用いるモデルと比較して、予測の頑健性がどの程度向上するか？
• RQ4 ブレンドアンサンブルアプローチは、予測誤差を低減し、F1スコアや動きの方向精度（MDA）といった主要指標を向上させるか？
• RQ5 モデルは、特に長期トレンドや短期的な市場ショックを捉えることにおいて、未観測データにも十分に一般化できるか？

主な発見

• 提案されたブレンドアンサンブルモデルは、平均二乗誤差（MSE）を438.94から186.32に低減し、最良の既存モデルと比較して57.55%の改善を達成した。
• モデルは、前人最高水準の手法と比較して、動きの方向精度（MDA）を33.34%向上させ、ホールドアウトテストセットでは最大67%に達した。
• 精度は40%向上、再現率は50%向上、F1スコアは44.78%向上し、分類性能全体が強化された。
• 価格時系列とセンチメント特徴を統合することで、単一のデータタイプのみを用いるモデルと比較して、はるかに正確な予測が得られることを示した。
• 結果から、多様なRNNアーキテクチャを用いたアンサンブル学習が、ファイナンシャルフォレキャスティングにおけるモデルの頑健性と一般化性能を向上させることを示唆している。
• モデルの性能は、金融市場で利益を上げるとされる60%のしきい値を超えており、投資家にとって実用的価値があると示唆している。