[论文解读] Dynamic Prediction Length for Time Series with Sequence to Sequence Networks

Mark E. Harmon, Diego Klabjan|arXiv (Cornell University)|Jul 2, 2018

Stock Market Forecasting Methods被引用 5

一句话总结

本文提出了一种用于时间序列预测中序列到序列模型的动态预测长度机制，可根据模型置信度实现可变长度的输出预测。通过引入一种新型基于置信度的损失函数并结合定制化的梯度计算方法，该模型在ETF数据上的F1分数达到0.503，较标准LSTM模型高出两倍以上，同时能根据证券波动率自然调整预测长度。

ABSTRACT

Recurrent neural networks and sequence to sequence models require a predetermined length for prediction output length. Our model addresses this by allowing the network to predict a variable length output in inference. A new loss function with a tailored gradient computation is developed that trades off prediction accuracy and output length. The model utilizes a function to determine whether a particular output at a time should be evaluated or not given a predetermined threshold. We evaluate the model on the problem of predicting the prices of securities. We find that the model makes longer predictions for more stable securities and it naturally balances prediction accuracy and length.

研究动机与目标

• 解决RNN和序列到序列模型在时间序列预测中固定输出长度的局限性。
• 使模型在推理过程中能够基于每一步输出的置信度生成可变长度的预测。
• 设计一种新型损失函数，通过引入置信度估计来平衡预测准确率与输出长度。
• 通过为个别证券量身定制动态预测时域，提升在高波动性金融时间序列上的预测性能。
• 证明动态预测长度相较于静态长度模型能带来更高的F1分数和更稳健的预测结果，尤其在波动率分布偏斜的数据集中表现更优。

提出的方法

• 提出置信度距离（CD）度量方法，用于量化模型在每一步预测中的置信度，且不依赖贝叶斯方法。
• 设计一种新型损失函数，将预测准确率与输出长度相结合，利用截断后的置信度分数确定何时停止生成预测。
• 实现Sigmoid掩码函数，动态抑制低置信度预测，从而实现与输入序列长度无关的可变长度输出。
• 采用带有注意力机制的序列到序列架构，解码器逐步生成预测，并应用基于置信度的停止准则。
• 针对反向传播中的可变长度序列，定制化梯度计算方法，确保在不同输出长度下仍能实现稳定训练。
• 在包含多个证券的金融时间序列数据上进行模型训练，使用向前滚动验证方法模拟真实世界预测场景。

实验结果

研究问题

• RQ1 序列到序列模型是否能在推理过程中基于置信度动态调整其预测长度，而无需在训练中使用固定长度输出序列？
• RQ2 所提出的基于置信度的损失函数在平衡不同时间序列的F1分数与预测长度方面，相较于标准损失函数表现如何？
• RQ3 模型是否能为低波动率证券生成更长的预测，为高波动率证券生成更短的预测，从而提升整体预测性能？
• RQ4 不同的置信度函数（CD、TV、EMD）和掩码策略（指示函数与Sigmoid函数）对模型性能与鲁棒性有何影响？
• RQ5 动态预测模型是否能在具有不同波动率特征的多样化金融时间序列上超越静态长度模型？

主要发现

• 该动态预测长度模型在ETF数据集上的F1分数达到0.503，显著优于仅输出单步预测的标准LSTM模型（F1 = 0.209）。
• 采用置信度距离（CD）与Sigmoid掩码的模型性能最高，在ETF数据集上相较最佳静态模型提升了6.45%的F1分数。
• 在五种商品数据集上，动态模型优于所有静态模型（1、4、7、10步预测），相较最佳静态基线实现了21.2%的相对F1分数提升。
• 模型能自然地为低波动率证券生成更长的预测，为高波动率证券生成更短的预测，体现出对市场条件的自适应行为。
• Sigmoid掩码函数始终优于指示函数，尽管其需要对阈值参数τ进行仔细调优。
• 最优配置采用τ ∈ [0.05, 0.5] 且λ ≤ 1.0，结合CD度量与Sigmoid掩码，实现了F1分数与预测长度之间的最佳权衡。