[论文解读] Predicting the direction of stock market prices using random forest

Luckyson Khaidem, Snehanshu Saha+1 more|arXiv (Cornell University)|Apr 29, 2016

Stock Market Forecasting Methods被引用 117

一句话总结

本文使用带技术指标的随机森林集成来分类股票价格变动方向，展示了对 OOB 收敛性的鲁棒性以及在多个数据集上的 1–3 月预测准确性。

ABSTRACT

Predicting trends in stock market prices has been an area of interest for researchers for many years due to its complex and dynamic nature. Intrinsic volatility in stock market across the globe makes the task of prediction challenging. Forecasting and diffusion modeling, although effective can't be the panacea to the diverse range of problems encountered in prediction, short-term or otherwise. Market risk, strongly correlated with forecasting errors, needs to be minimized to ensure minimal risk in investment. The authors propose to minimize forecasting error by treating the forecasting problem as a classification problem, a popular suite of algorithms in Machine learning. In this paper, we propose a novel way to minimize the risk of investment in stock market by predicting the returns of a stock using a class of powerful machine learning algorithms known as ensemble learning. Some of the technical indicators such as Relative Strength Index (RSI), stochastic oscillator etc are used as inputs to train our model. The learning model used is an ensemble of multiple decision trees. The algorithm is shown to outperform existing algo- rithms found in the literature. Out of Bag (OOB) error estimates have been found to be encouraging. Key Words: Random Forest Classifier, stock price forecasting, Exponential smoothing, feature extraction, OOB error and convergence.

研究动机与目标

• 将预测股票价格方向作为一个分类问题以降低投资风险。
• 利用集成学习（Random Forest）来处理嘈杂的、非线性的股票数据。
• 使用 OOB 误差、ROC，以及多种时域下的标准分类指标来评估预测性能。

提出的方法

• 使用指数平滑对时间序列数据进行预处理以降低噪声。
• 将技术指标（RSI、随机振荡器、Williams %R、MACD、PROC、OBV）提取为特征。
• 通过凸包测试线性可分性并应用 PCA 在二维中进行可视化。
• 训练带自助法（Bootstrap Aggregating）和随机特征选择的随机森林分类器。
• 使用 OOB 误差、准确度、精确度、召回率、特异度以及 ROC AUC 进行评估。

实验结果

研究问题

• RQ1 是否能够使用技术指标在固定天数前可靠地预测股票价格变动的方向（上涨或下跌）？
• RQ2 随机森林在不同股票和预测时段（1–3 月）上的性能（OOB 误差、准确度、ROC AUC）有何差异？
• RQ3 在此背景下，树的数量对 OOB 误差和收敛性的影响是什么？
• RQ4 所选特征（技术指标）在 Apple、GE、Samsung 等数据集上是否足够且稳健用于方向性预测？

主要发现

• RF 在各数据集上实现高方向性准确度：Apple 1 个月 86.84%，3 个月 93.97%；GE 1 个月 84.72%，3 个月 92.54%；Samsung 1 个月 84.71%，3 个月 92.54%。
• ROC AUC 在全部三个数据集和时间跨度上均高于 0.9，表明对上涨与下跌预测具有强分辨能力。
• 随着树的数量增加，OOB 误差下降，表明收敛性提升并且随树增多过拟合减小。
• 模型的鲁棒性在 1–3 个月的时域中由多种指标（准确度、精确度、召回、特异度）支持。
• 集合边际分析通过基于切比雪夫界的界限将森林强度与较低的泛化误差联系起来。