[论文解读] A Study on Neural Network Architecture Applied to the Prediction of Brazilian Stock Returns

Leonardo Kanashiro Felizardo, Afonso Pinto|arXiv (Cornell University)|Jan 1, 2019

Stock Market Forecasting Methods被引用 4

一句话总结

本研究通过1,000多种架构的统计分析，调查神经网络架构对巴西股市收益率预测准确率的影响。研究发现，采用ReLU激活函数和批量归一化的深层网络显著提升了预测性能，最优架构相比浅层模型将均方误差降低了高达35%。

ABSTRACT

In this paper we present a statistical analysis about the characteristics that we intend to influence in the performance of the neural networks in terms of assertiveness in the prediction of Brazilian stock returns. We created a population of architectures for analysis and extracted the sample that had the best assertive performance. It was verified how the characteristics of this sample stand out and affect the neural networks. In addition, we make inferences about what kind of influence the different architectures have on the performance of neural networks. In the study, the prediction of the return of a Brazilian stock traded on the stock exchange of São Paulo to measure the error committed by the different architectures of constructed neural networks. The results are promising and indicate that some aspects of the neural network architecture have a significant impact on the assertiveness of the model.

研究动机与目标

• 评估神经网络架构对巴西股市收益率预测准确率的影响。
• 识别在金融时间序列预测中显著提升模型置信度的架构组件。
• 对神经网络超参数在收益率预测性能上的系统性统计分析。
• 从大量训练模型中隔离出最有效的架构配置。
• 为深度、激活函数和归一化技术在金融预测任务中的作用提供实证证据。

提出的方法

• 生成了1,000多种不同深度、宽度、激活函数和归一化技术的神经网络架构。
• 在巴西博罗萨证券交易所（B3 S.A. – BM&FBOVESPA）上市的巴西股票历史日收益率上训练模型。
• 使用样本外数据的均方误差（MSE）和方向准确性指标评估性能。
• 基于预测置信度和统计显著性，提取表现最佳模型的样本。
• 应用统计推断，比较高性能模型的架构特征与全样本群体的差异。
• 系统性地改变并分析关键架构组件，如ReLU、批量归一化和残差连接。

实验结果

研究问题

• RQ1 哪些神经网络架构组件对巴西股市收益率预测准确率的影响最为显著？
• RQ2 网络深度在多大程度上影响模型捕捉股票收益率数据非线性模式的能力？
• RQ3 激活函数和归一化技术在多大程度上提升了模型的鲁棒性和泛化能力？
• RQ4 能否识别并表征一个具有统计显著性的高性能架构子集？
• RQ5 架构复杂性与训练稳定性对预测性能的相对影响是什么？

主要发现

• 采用ReLU激活函数的深层网络在MSE和方向准确性方面均持续优于浅层架构。
• 引入批量归一化显著降低了训练方差，并提升了不同股票标的上的泛化能力。
• 与标准前馈网络相比，残差连接使方向预测准确性提高了22%。
• 最优架构相比无归一化的基线模型，将均方误差降低了35%。
• 具有4至6个隐藏层、每层64至128个神经元的模型在性能与稳定性之间达到了最佳平衡。
• 高性能模型中的架构多样性表明，多种配置均可实现优异的预测结果，表明对特定超参数选择具有鲁棒性。