[论文解读] Exploiting statistical dependencies of time series with hierarchical correlation reconstruction

Jarek Duda|arXiv (Cornell University)|Jul 11, 2018

Blind Source Separation Techniques参考文献 14被引用 9

一句话总结

本文提出了一种基于正交多项式基函数的分层相关性重构方法，用于建模时间序列的联合概率分布，通过利用上下文信息（例如近期值）实现对未来值分布的精确预测。该方法采用均方误差（MSE）优化计算唯一且可解释的系数，这些系数渐近地描述任意真实联合分布，其性能优于基于高斯分布的ARMA/ARCH模型——尤其在非高斯对数收益情况下表现更优，同时支持灵活的非平稳适应与稀疏基选择。

ABSTRACT

While we are usually focused on forecasting future values of time series, it is often valuable to additionally predict their entire probability distributions, e.g. to evaluate risk, Monte Carlo simulations. On example of time series of $\approx$ 30000 Dow Jones Industrial Averages, there will be presented application of hierarchical correlation reconstruction for this purpose: MSE estimating polynomial as joint density for (current value, context), where context is for example a few previous values. Then substituting the currently observed context and normalizing density to 1, we get predicted probability distribution for the current value. In contrast to standard machine learning approaches like neural networks, optimal polynomial coefficients here have inexpensive direct formula, have controllable accuracy, are unique and independently calculated, each has a specific cumulant-like interpretation, and such approximation can asymptotically approach complete description of any real joint distribution - providing universal tool to quantitatively describe and exploit statistical dependencies in time series, systematically enhancing ARMA/ARCH-like approaches, also based on different distributions than Gaussian which turns out improper for daily log returns. There is also discussed application for non-stationary time series like calculating linear time trend, or adapting coefficients to local statistical behavior.

研究动机与目标

• 开发一种通用的非参数方法，用于建模时间序列中超越成对相关性的复杂统计依赖关系。
• 克服基于高斯分布的模型（如ARMA/ARCH）在捕捉金融对数收益中厚尾行为方面的局限性。
• 通过利用上下文信息（例如先前值）实现对当前值的完整条件概率分布预测，从而提升风险评估与蒙特卡洛模拟的准确性。
• 提供一种具有唯一性、可独立计算的系数框架，其具有清晰的矩类解释，并可控制精度。
• 通过将系数适应于局部统计行为或直接建模趋势，将该方法扩展至非平稳时间序列。

提出的方法

• 使用参数分布（例如拉普拉斯分布）的CDF将时间序列值（例如对数收益）归一化为近似[0,1]的均匀分布，以改善尾部分布建模并实现系数标准化。
• 通过在归一化变量上使用一维正交多项式的乘积，构建多变量正交多项式基。
• 通过均方误差（MSE）优化估计多项式系数，其中每个系数即为数据样本上对应基函数的经验平均值。
• 将联合密度重构为当前值与上下文（例如前5个值）的多项式，然后基于观测到的上下文进行条件化并归一化，使其积分为1，从而获得预测的边际密度。
• 通过保留显著系数来实现稀疏基选择，以降低计算成本，聚焦于少数变量之间的相关混合矩。
• 通过使用其预测分布对数据进行归一化，将该方法与现有模型（例如ARCH）集成，随后通过多项式展开建模残差依赖性。

实验结果

研究问题

• RQ1 基于多项式联合密度估计的方法是否能系统性地优于标准ARMA/ARCH模型，以更完整地捕捉时间序列的预测分布，特别是在非高斯收益情况下？
• RQ2 多项式系数与统计矩之间有何关系？它们能否像累积量一样被有意义地解释，同时实现对联合分布的精确重构？
• RQ3 该方法在多大程度上可通过局部系数适应或显式建模趋势来处理非平稳时间序列？
• RQ4 模型复杂度（系数数量）与预测精度之间的权衡如何？能否通过数据驱动方法校准过拟合（例如负密度）？
• RQ5 当应用于真实金融时间序列（如道琼斯工业平均指数）时，该方法是否能在对数似然和无条件覆盖度方面优于基于高斯分布的模型？

主要发现

• 与基于拉普拉斯分布的基线相比，该方法在平均预测密度上实现了1.09倍的提升，表明在利用高阶依赖关系后，预测精度显著提高。
• 在约80%的情况下，上下文感知的多项式模型优于均匀分布（ρ=1）基线，其预测密度显著高于无条件均匀分布。
• 可通过数据驱动的优化校准负预测密度（表示正概率较低），在不损失预测能力的前提下提升可解释性。
• 随着基函数规模与样本量的增长，该方法渐近逼近任意真实联合分布，为建模统计依赖关系提供通用工具。
• 稀疏基选择在保持预测性能的同时降低了计算成本，表明仅有少量系数携带显著的统计信息。
• 在对数似然和无条件覆盖度方面，该方法优于标准高斯基模型，尤其在表现出厚尾行为、与正态性不一致的日对数收益中表现更优。