[论文解读] A Novel Distributed Representation of News (DRNews) for Stock Market Predictions

Ye Ma, Lu Zong+1 more|arXiv (Cornell University)|May 24, 2020

Stock Market Forecasting Methods参考文献 47被引用 4

一句话总结

该论文提出DRNews，一种新颖的新闻分布式表示方法，通过属性新闻网络对新闻的语义内容及跨文档关系进行建模。通过整合基于子词的特征聚合与偏置随机游走，DRNews提升了股票预测性能，在短期走势预测中达到46.24%的准确率，并在2.5天的提前预警窗口下实现94.61%的市场危机预警准确率，优于五种基线模型。

ABSTRACT

In this study, a novel Distributed Representation of News (DRNews) model is developed and applied in deep learning-based stock market predictions. With the merit of integrating contextual information and cross-documental knowledge, the DRNews model creates news vectors that describe both the semantic information and potential linkages among news events through an attributed news network. Two stock market prediction tasks, namely the short-term stock movement prediction and stock crises early warning, are implemented in the framework of the attention-based Long Short Term-Memory (LSTM) network. It is suggested that DRNews substantially enhances the results of both tasks comparing with five baselines of news embedding models. Further, the attention mechanism suggests that short-term stock trend and stock market crises both receive influences from daily news with the former demonstrates more critical responses on the information related to the stock market {\em per se}, whilst the latter draws more concerns on the banking sector and economic policies.

研究动机与目标

• 开发一种新闻嵌入模型，不仅捕捉语义内容，还建模新闻事件之间的跨文档关系。
• 将时间、类别、情感等多样化新闻特征整合到统一向量空间中，实现更丰富的表示。
• 通过网络结构建模新闻文章之间的潜在关联，提升股票市场预测性能。
• 通过基于子节点的方法扩展模型至未见节点，实现在新发布新闻上的快速推理。
• 在两个关键任务上评估模型：短期股票走势预测与系统性危机早期预警。

提出的方法

• 构建一个属性新闻网络，其中节点代表新闻文章，边代表文章间共享的上下文元素（如公司名称、事件等）。
• 应用受子词嵌入启发的Subnode模型，将每个新闻节点表示为其特征向量（如语义、时间、类别）之和。
• 在属性网络上使用偏置随机游走生成保留结构与特征关系的训练序列。
• 采用跳字模型（skip-gram）架构，从随机游走序列中学习新闻文章的稠密向量表示。
• 将学习到的DRNews嵌入集成到基于注意力机制的长短期记忆（LSTM）网络中，实现新闻序列的序列建模。
• 在历史新闻与股票价格走势数据上端到端训练模型，注意力机制突出显示对预测具有关键影响的新闻特征。

实验结果

研究问题

• RQ1 建模新闻文章之间的跨文档关系是否能提升股票市场预测性能？
• RQ2 不同新闻特征（如情感、时间、机构提及）如何影响股票走势与危机预测？
• RQ3 注意力机制在多大程度上揭示了影响短期价格波动与系统性市场危机的不同信息来源？
• RQ4 基于子节点的方法能否在不重新训练的情况下，有效嵌入未见过的新闻文章并保持丰富的特征表示？
• RQ5 在新闻嵌入中引入结构与上下文知识，是否能相比标准词平均或无监督嵌入模型实现更优性能？

主要发现

• DRNews在短期股票走势预测的三分类任务中达到46.24%的测试集准确率，优于五种基线模型。
• 在股票危机早期预警任务中，DRNews达到94.61%的测试集准确率，平均提前2.5天预警市场动荡。
• 注意力机制显示，短期股票走势最敏感于与股票市场本身相关的新闻，如上市信息、交易量变化与指数调整。
• 相反，股票市场危机主要由与银行部门、货币政策及利率、准备金率等宏观经济指标相关的新闻驱动。
• 模型表明，机构提及（尤其是中国人民银行与主要商业银行）在预测系统性风险方面具有高度影响力。
• Subnode模型通过将新新闻的特征投影到现有嵌入空间，无需重新训练即可实现未见新闻的快速推理。