[论文解读] Deep Adaptive Input Normalization for Price Forecasting using Limit Order Book Data

Nikolaos Passalis, Anastasios Tefas+3 more|arXiv (Cornell University)|Jan 1, 2019

Stock Market Forecasting Methods被引用 5

一句话总结

本文提出了一种深度自适应输入归一化层，以端到端可微的方式学习归一化限价单簿时间序列数据，通过动态考虑数据的非平稳性和多模态分布，显著提升了价格预测性能。该方法在大规模金融数据集上显著提高了深度学习模型的准确性。

ABSTRACT

Deep Learning (DL) models can be used to tackle time series analysis tasks with great success. However, the performance of DL models can degenerate rapidly if the data are not appropriately normalized. This issue is even more apparent when DL is used for financial time series forecasting tasks, where the non-stationary and multimodal nature of the data pose significant challenges and severely affect the performance of DL models. In this work, a simple, yet effective, neural layer, that is capable of adaptively normalizing the input time series, while taking into account the distribution of the data, is proposed. The proposed layer is trained in an end-to-end fashion using back-propagation and can lead to significant performance improvements. The effectiveness of the proposed method is demonstrated using a large-scale limit order book dataset.

研究动机与目标

• 为解决深度学习模型在金融时间序列预测中因非平稳和多模态数据分布导致的性能下降问题。
• 开发一种可训练、与神经网络兼容的归一化层，能够在训练过程中自适应输入数据分布。
• 通过将归一化直接集成到深度学习流程中，而非使用固定预处理，从而提升价格预测准确性。
• 在真实世界的大规模限价单簿数据集上展示所提出层的有效性。

提出的方法

• 所提出的方法在主深度学习模型之前引入一个可学习的归一化层，根据输入特征的当前分布调整其值。
• 该层在训练过程中使用批量统计信息，并通过反向传播进行自适应，实现归一化过程的端到端优化。
• 归一化按通道或特征逐个进行，以可微方式调整均值和方差，以保持梯度流动。
• 该层设计轻量化，兼容用于时间序列预测的各种深度学习架构。
• 该方法与预测模型联合训练，使网络能够为特定任务学习最优的归一化策略。

实验结果

研究问题

• RQ1 可学习的归一化层是否能提升在非平稳和多模态金融时间序列数据上的深度学习性能？
• RQ2 在限价单簿价格预测中，自适应归一化与固定归一化技术相比表现如何？
• RQ3 归一化层的端到端训练在多大程度上提升了预测准确性？
• RQ4 所提出的归一化层是否能在不同用于金融预测的深度学习架构上实现泛化？

主要发现

• 所提出的自适应归一化层相比标准归一化技术，在价格预测准确性方面实现了显著提升。
• 该方法有效应对了限价单簿数据的非平稳性和多模态特性，降低了模型对分布漂移的敏感性。
• 归一化层的端到端训练带来了更好的泛化能力和更稳定的训练动态。
• 该方法在大规模真实世界限价单簿数据集上实现了可测量的性能提升，证明了其实际应用价值。