[论文解读] BDLOB: Bayesian Deep Convolutional Neural Networks for Limit Order Books

Zihao Zhang, Stefan Zohren+1 more|arXiv (Cornell University)|Nov 25, 2018

Stock Market Forecasting Methods参考文献 6被引用 3

一句话总结

本文提出BDLOB，一种基于贝叶斯深度卷积神经网络的方法，利用Dropout变分推断从订单簿（LOB）数据中预测短期价格走势。通过利用蒙特卡洛Dropout获得的不确定性估计，BDLOB提升了预测性能，并实现了风险感知的交易策略，相比非贝叶斯模型具有更高的盈利能力和更低的风险。

ABSTRACT

We showcase how dropout variational inference can be applied to a large-scale deep learning model that predicts price movements from limit order books (LOBs), the canonical data source representing trading and pricing movements. We demonstrate that uncertainty information derived from posterior predictive distributions can be utilised for position sizing, avoiding unnecessary trades and improving profits. Further, we test our models by using millions of observations across several instruments and markets from the London Stock Exchange. Our results suggest that those Bayesian techniques not only deliver uncertainty information that can be used for trading but also improve predictive performance as stochastic regularisers. To the best of our knowledge, we are the first to apply Bayesian networks to LOBs.

研究动机与目标

• 将贝叶斯深度学习整合到订单簿（LOB）预测中，以增强不确定性量化。
• 评估基于Dropout的变分推断是否能提升LOB建模中的预测准确率和泛化能力。
• 设计并测试利用模型不确定性进行动态头寸规模调整和交易时机控制的交易策略。
• 证明不确定性感知策略在盈利能力和风险调整回报方面优于标准方法。
• 建立贝叶斯神经网络在订单簿数据上的首次成功应用。

提出的方法

• 该模型采用深度卷积架构（DeepLOB），结合Inception模块和LSTM，从原始LOB数据中提取时空特征。
• 通过蒙特卡洛Dropout应用Dropout变分推断，即通过多次前向传播并随机丢弃神经元，以估计后验预测分布。
• 在Inception模块后应用0.2的Dropout率，并通过网格搜索校准不确定性估计。
• 也对卷积层测试了Concrete Dropout，但所有学习率最终收敛至零，原因在于数据集规模较大且存在参数共享。
• 利用Softmax概率和不确定性感知阈值设计交易策略，以控制头寸规模和买卖决策。
• 贝叶斯交易策略使用超参数α（置信度阈值）和β1、β2（风险控制参数）来平衡收益与风险，其中α=0.7，β1=0.1，β2=0.9通过经验分析选定。

实验结果

研究问题

• RQ1 基于Dropout的变分推断是否能提升深度学习模型在订单簿数据上的预测性能？
• RQ2 如何利用贝叶斯深度学习获得的不确定性估计来增强交易策略设计？
• RQ3 在头寸规模中引入不确定性是否能带来相比标准分类策略更高的风险调整后收益？
• RQ4 贝叶斯交易策略中的不同超参数如何影响盈利能力和风险敞口？
• RQ5 所提出的贝叶斯方法是否为贝叶斯神经网络在订单簿预测中的首次成功应用？

主要发现

• BDLOB的F1得分为0.60，AUC为0.811，优于基线CNN（F1：0.48，AUC：0.672）和DeepLOB5（F1：0.58，AUC：0.803）。
• 使用不确定性信息的贝叶斯交易策略相比非贝叶斯策略，实现了更高的归一化日利润和更好的下行偏差比率（DDR）。
• BDLOB在日度准确率上表现出更窄的四分位距和更少的异常值，表明在不同测试股票中性能更稳定。
• 更高的α值（如0.8或0.9）会导致风险增加或利润下降，原因在于交易次数减少且对预测误差更敏感。
• β2的选择显著影响风险与收益：较低的β2可提高利润但同时增加风险，而较高的β2可减少对错误交易的暴露，但可能错失盈利机会。
• 模型表明，Dropout作为一种随机正则化方法，能提升大规模LOB数据上的泛化能力和预测性能。