[論文レビュー] Deep Learning for Predicting Asset Returns

Guanhao Feng, Jingyu He+1 more|arXiv (Cornell University)|Apr 25, 2018

Stock Market Forecasting Methods参考文献 33被引用数 23

ひとこと要約

本稿では、ReLUおよびLSTMネットワークを用いた多層非線形要因を活用する深層学習フレームワークを提案し、線形モデルを上回る予測性能を示す。この手法は、特徴空間における非線形関係、特にリターンの極値における関係を捉えることができ、確率的勾配降下法とTensorFlowを用いた最適化およびモデル学習により、WelchとGoyal（2008）のデータセット上で優れた予測性能を達成する。

ABSTRACT

Deep learning searches for nonlinear factors for predicting asset returns. Predictability is achieved via multiple layers of composite factors as opposed to additive ones. Viewed in this way, asset pricing studies can be revisited using multi-layer deep learners, such as rectified linear units (ReLU) or long-short-term-memory (LSTM) for time-series effects. State-of-the-art algorithms including stochastic gradient descent (SGD), TensorFlow and dropout design provide imple- mentation and efficient factor exploration. To illustrate our methodology, we revisit the equity market risk premium dataset of Welch and Goyal (2008). We find the existence of nonlinear factors which explain predictability of returns, in particular at the extremes of the characteristic space. Finally, we conclude with directions for future research.

研究の動機と目的

• 線形モデルの代わりに非加法的で階層的な非線形要因を用いた、資産リターンを予測する深層学習ベースの手法の開発。
• 深層学習が経済的特徴量における非線形性を捉えることで、実証的資産定価理論における予測性能を改善できるかどうかの評価。特に、経済的特徴量における非線形性の捉え込みに注目。
• 線形回帰（OLS）、リッジ、ラッソ、エラスティックネット、および木ベースのモデル（CART、ブースティング、ランダムフォレスト）と比較して、アクイティプレミアムおよびマーケットクラッシュを予測する際の深層学習の性能を評価。
• 因果関係やモデルの透明性に関する制約を踏まえ、ファイナンス予測における深層学習の解釈可能性と限界を検討。

提案手法

• 複数の隠れ層を備えた深層ニューラルネットワークアーキテクチャを採用し、各層で入力の重み付き組み合わせに非線形活性化関数（例：ReLU）を適用。
• 効率的な学習とハイパーパramータチューニングのため、TensorFlowを用いた確率的勾配降下法（SGD）を採用。
• 高次元の予測子空間における過学習を防ぎ、一般化性能を向上させるためにドロップアウト正則化を適用。
• 32、16、8ニューロンの3層構造を持つ深層ダイナミック要因モデルを構築し、配当・株価比や収益・株価比などの経済的予測子から潜在的な非線形要因を抽出。
• 移動平均および累積ローリングウィンドウを用いて、異なるモデルタイプにおける予測外R²性能を評価。
• マーケットクラッシュ（月次リターン < -10%）を二値分類タスクとして扱い、深層学習と木ベースのモデル（CART、ブースティング、ランダムフォレスト）を比較。

実験結果

リサーチクエスチョン

• RQ1 非線形で合成された要因を有する深層学習モデルは、線形モデルと比較して、アクイティリターンの予測外性能を向上させることができるか？
• RQ2 深層学習モデルは、リターン分布の極値において、特徴空間における非線形関係を検知し、活用できるか？
• RQ3 マーケットクラッシュ予測において、深層学習は従来の正則化手法（例：ラッソ、リッジ）および木ベースのモデルと比較して、どのように性能を発揮するか？
• RQ4 ReLUおよびLSTMによる階層的非線形要因抽出が、資産定価における予測精度の向上に果たす役割は何か？

主な発見

• 特にDL2およびDL3と呼ばれる深層学習モデルは、1か月先のアクイティリターン予測において、線形モデル（OLS、リッジ、ラッソ）および正則化手法（ElasticNet）を上回る予測外R²値を達成する。
• 3層（32、16、8ニューロン）の隠れ層を持つ深層学習モデルは、8つの潜在的非線形要因を生成し、配当・株価比（d/p）や配当利回り（d/y）といった主要な予測子と強い非線形関係を示す。
• マーケットクラッシュの予測において、ランダムフォレストよりも多くのクラッシュを予測するが、すべてのモデルが実際のクラッシュを過小評価している。
• モデルはより優れた内挿適合性と極端な市場動向の分類性能を示しており、非線形リスク要因の検出能力の向上を示唆している。
• 解釈性の制限および因果関係の推論の欠如にもかかわらず、深層学習は実証的資産定価理論における従来の加法的要因モデルの強力な代替手段を提供する。