[論文レビュー] A Study on Neural Network Architecture Applied to the Prediction of Brazilian Stock Returns

Leonardo Kanashiro Felizardo, Afonso Pinto|arXiv (Cornell University)|Jan 1, 2019

Stock Market Forecasting Methods被引用数 4

ひとこと要約

本研究では、1,000以上のアーキテクチャを用いた統計的分析を通じて、ニューラルネットワークのアーキテクチャがブラジル株式リターンの予測精度に与える影響を調査する。深さのあるネットワークにReLU活性化関数とバッチ正規化を適用することで、予測性能が顕著に向上し、最適なアーキテクチャは浅いモデルと比較して平均二乗誤差を最大35％まで低減することが判明した。

ABSTRACT

In this paper we present a statistical analysis about the characteristics that we intend to influence in the performance of the neural networks in terms of assertiveness in the prediction of Brazilian stock returns. We created a population of architectures for analysis and extracted the sample that had the best assertive performance. It was verified how the characteristics of this sample stand out and affect the neural networks. In addition, we make inferences about what kind of influence the different architectures have on the performance of neural networks. In the study, the prediction of the return of a Brazilian stock traded on the stock exchange of São Paulo to measure the error committed by the different architectures of constructed neural networks. The results are promising and indicate that some aspects of the neural network architecture have a significant impact on the assertiveness of the model.

研究の動機と目的

• ブラジル株式リターンの予測精度に与えるニューラルネットワークアーキテクチャの影響を評価すること。
• 金融時系列予測においてモデルの確信度を高める要因となるアーキテクチャ的要因を同定すること。
• リターン予測性能に対するニューラルネットワークのハイパーパrameterの体系的統計的分析を実施すること。
• 多数のトレーニング済みモデルから最適なアーキテクチャ構成を特定すること。
• 深さ、活性化関数、正規化手法が金融予測タスクにおいて果たす役割についての実証的証拠を提供すること。

提案手法

• 深さ、幅、活性化関数、正規化手法を変化させた1,000以上のニューラルネットワークアーキテクチャの集合を生成した。
• B3（B3 S.A. – BM&FBOVESPA）に上場されているブラジル株式の歴史的1日リターンデータを用いてモデルをトレーニングした。
• 出側データにおける平均二乗誤差（MSE）および方向的正確性指標を用いて性能を評価した。
• 予測の確信度と統計的有意性に基づいて、上位パフォーマンスのモデルのサンプルを抽出した。
• 高パフォーマンスモデルのアーキテクチャ的特徴を全集団と比較するために統計的推論を適用した。
• ReLU、バッチ正規化、残差接続といった主要なアーキテクチャ的要素を体系的に変化させ、分析した。

実験結果

リサーチクエスチョン

• RQ1 ブラジル株式リターンの予測精度に最も顕著に影響を与えるニューラルネットワークアーキテクチャ的要素は何か？
• RQ2 ネットワークの深さは、株式リターンデータの非線形パターンを捉える能力にどのように影響するか？
• RQ3 活性化関数および正規化手法は、モデルの頑健性と一般化性能をどの程度向上させるか？
• RQ4 統計的に有意な上位パフォーマンスのアーキテクチャのサブセットを同定し、特徴づけられるか？
• RQ5 アーキテクチャの複雑さとトレーニングの安定性の両者が、予測性能に与える相対的影響は何か？

主な発見

• ReLU活性化関数を備えた深層ネットワークは、MSEおよび方向的正確性の両面で、浅いアーキテクチャを一貫して上回った。
• バッチ正規化の導入により、トレーニングの分散が顕著に低減され、異なる株式銘柄間での一般化性能が向上した。
• 残差接続の導入により、標準的な順方向ネットワークと比較して、方向的予測正確性が22％向上した。
• 最適なアーキテクチャは、正規化を一切施さないベースラインモデルと比較して、平均二乗誤差を35％まで低減した。
• 4〜6層の隠れ層と1層あたり64〜128ニューロンの構成が、パフォーマンスと安定性のバランスにおいて最良の結果を示した。
• 上位パフォーマンスのモデルにおけるアーキテクチャの多様性は、特定のハイパーパramータ選択に依存せず、複数の構成が強力な予測結果を達成可能であることを示しており、頑健性を示している。