[論文レビュー] Improving Decision Analytics with Deep Learning: The Case of Financial Disclosures

Stefan Feuerriegel, Ralph Fehrer|arXiv (Cornell University)|Aug 9, 2015

Stock Market Forecasting Methods参考文献 24被引用数 23

ひとこと要約

本論文では、深層学習、特に再帰的オートエンコーダーを用いて、財務報告書からの株価動向予測を改善することを提案している。階層的なテキスト表現を自動で学習することで、従来の機械学習ベンチマークと比較して5.66%の高い正確性を達成し、意思決定分析における金融テキストの非線形パターンを捉える深層学習の優位性が示された。

ABSTRACT

Decision analytics commonly focuses on the text mining of financial news sources in order to provide managerial decision support and to predict stock market movements. Existing predictive frameworks almost exclusively apply traditional machine learning methods, whereas recent research indicates that traditional machine learning methods are not sufficiently capable of extracting suitable features and capturing the non-linear nature of complex tasks. As a remedy, novel deep learning models aim to overcome this issue by extending traditional neural network models with additional hidden layers. Indeed, deep learning has been shown to outperform traditional methods in terms of predictive performance. In this paper, we adapt the novel deep learning technique to financial decision support. In this instance, we aim to predict the direction of stock movements following financial disclosures. As a result, we show how deep learning can outperform the accuracy of random forests as a benchmark for machine learning by 5.66%.

研究の動機と目的

• 財務報告書の後続株価動向予測において、深層学習が従来の機械学習手法を上回るかを評価すること。
• 手動による特徴量設計を伴わずに、生の財務テキストからエンドツーエンドの特徴量学習が可能な再帰的オートエンコーダーの可能性を調査すること。
• 従来の分類器と比較して、深層学習モデルの計算効率と予測性能を金融意思決定分析の文脈で評価すること。
• 深層学習が高インパクトな金融テキストマイニングタスクにおける予測正確性を向上させることを実証的根拠で示すこと。
• 自動取引および企業コミュニケーション戦略における、予測正確性の向上がもたらす経営的インパクトを検討すること。

提案手法

• 本研究では、再帰的オートエンコーダーという深層学習アーキテクチャを採用し、文やフレーズを再帰的に符号化することで、テキストの階層的ベクトル表現を学習する。
• モデルは、テキストを部分構造に分解し、誤差逆伝播と勾配降下法を用いて分散表現を学習することで、財務報告書のテキストを処理する。
• 埋め込み次元（40）やイテレーション回数（70）といったハイパーパrameterは、テストセットのパフォーマンス最適化を目的に調整された。
• 手動による特徴量設計を回避するため、生のテキスト入力から意味のある表現を直接学習する。
• モデルのパフォーマンスは、ホールドアウトされたテストセットにおける標準指標（正確性、適合率、再現率、F1スコア）を用いて評価された。
• 一貫した訓練・テストプロトコルを用いて、ランダムフォレストなどの従来の分類器と比較評価が行われた。

実験結果

リサーチクエスチョン

• RQ1 財務報告書の後続株価方向予測において、深層学習モデルは従来の機械学習手法を上回ることができるか？
• RQ2 再帰的オートエンコーダーは、財務テキスト分析における手動特徴量設計の必要性をどの程度低減できるか？
• RQ3 金融意思決定支援の文脈において、深層学習の予測正確性は、古典的ベンチマークと比べてどうなるか？
• RQ4 この分野において、深層学習モデルの計算コストとスケーラビリティは、従来の分類器と比べてどのようになるか？
• RQ5 予測正確性の向上が、投資家感情分析および企業開示戦略に与える経営的インパクトは何か？

主な発見

• 再帰的オートエンコーダーは、テストセットの正確性が0.56に達し、ベンチマークのランダムフォレストモデル（正確性0.53）と比較して相対的に5.66%の向上を示した。
• F1スコアはベンチマークの0.52から深層学習モデルで0.56に上昇し、相対的に7.69%の向上を示した。
• 再現率は9.80%の相対的増加を示し、陽性の株価動向シグナルの検出能力が優れていることが示された。
• 再帰的オートエンコーダーは、ランダムフォレスト（約200分）と比較して、はるかに少ない計算時間（約23分）で実行されたため、計算効率が優れていた。
• 深層学習モデルは、生のテキストから階層的表現を自動で学習したため、手動による特徴量設計の必要がなくなった。
• 結果から、深層学習が金融テキストの非線形パターンを効果的に捉えられ、正確性とF1スコアの両面で古典的モデルを上回ることを確認した。