[论文解读] Conditional Autoregressive Hilbertian processes

Jairo Cugliari|arXiv (Cornell University)|Feb 14, 2013

Neural Networks and Applications参考文献 16被引用 4

一句话总结

本文提出了条件自回归希尔伯特过程（carh），一种功能性时间序列模型，通过允许自回归算子通过条件期望依赖于外生协变量，扩展了经典的自回归希尔伯特过程。该方法采用核加权局部估计无限维算子，并建立了估计量和预测器的几乎必然一致性，实证应用在电力负荷预测中显示其性能优于标准arh模型。

ABSTRACT

When considering the problem of forecasting a continuous-time stochastic process over an entire time-interval in terms of its recent past, the notion of Autoregressive Hilbert space processes (ARH) arises. This model can be seen as a generalization of the classical autoregressive processes to Hilbert space valued random variables. Its estimation presents several challenges that were addressed by many authors in recent years. In this paper, we propose an extension based on this model by introducing a conditioning process on the arh. In this way, we are aiming a double objective. First, the intrinsic linearity of arh is overwhelm. Second, we allow the introduction of exogenous covariates on this function- valued time series model. We begin defining a new kind of processes that we call Conditional arh. We then propose estimators for the infinite dimensional parameters associated to such processes. Using two classes of predictors defined within the arh framework, we extend these to our case. Consistency results are provided as well as a real data application related to electricity load forecasting.

研究动机与目标

• 通过非加法、条件化的方式将外生协变量纳入自回归希尔伯特（arh）过程。
• 通过允许自回归算子随协变量变化，克服arh模型固有的线性局限。
• 在功能性非参数设定下，发展无限维条件算子的一致估计方法。
• 提出两类利用协变量局部依赖性的预测器，以提升预测性能。
• 通过真实世界的电力负荷预测应用，对模型进行实证验证。

提出的方法

• 提出一类新的功能性时间序列——条件自回归希尔伯特（carh）过程，其定义为 $ Z_{k+1} = \rho_V Z_k + \epsilon_k $，其中 $ \rho_V $ 是依赖于协变量 $ V $ 的随机算子。
• 采用核加权局部平均法估计条件均值算子 $ \rho_v $，带宽通过数据驱动规则选择。
• 使用二阶矩算子 $ R(v) = \mathbb{E}^v[Z_0 \otimes Z_0 \mid V] $ 和条件均值 $ a(v) = \mathbb{E}^v[Z_0 \mid V] $ 的经验对应物。
• 通过比值估计法推导条件算子 $ r(v) = \rho_v $ 的估计量：$ \widehat{r}_n = \widehat{g}_{v,n} / \widehat{f}_n $，其中 $ \widehat{g}_{v,n} $ 和 $ \widehat{f}_n $ 分别为交叉矩和自矩的局部估计量。
• 利用 $ \mathcal{K}_2 $-范数收敛，建立条件算子及其谱结构估计量的几乎必然一致性。
• 将arh框架中的两类预测器——基于条件期望和特征函数展开——推广至carh设定，并提供理论一致性保证。

实验结果

研究问题

• RQ1 能否以非加法方式将功能性自回归模型扩展为允许自回归算子依赖于外生协变量？
• RQ2 在功能性非参数设定下，如何实现无限维条件算子的一致估计？
• RQ3 基于局部条件估计的预测器在协变量存在时是否优于标准arh预测器？
• RQ4 条件算子及其谱分量的估计量的理论收敛速率是什么？
• RQ5 所提出的模型能否在真实功能性时间序列（如电力负荷曲线）中提升预测精度？

主要发现

• 所提出的条件算子 $ \rho_v $ 的估计量 $ \widehat{r}_n $ 在 $ \mathcal{K}_2 $-范数下以速率 $ \mathcal{O}\left(\left(\frac{n}{\ln n}\right)^{\frac{2}{4+d}}\right) $ 几乎必然收敛于真实算子。
• 条件算子 $ \Gamma_v $ 的特征值和特征函数被一致估计，其收敛速率受 $ \widehat{\Gamma}_{v,n} $ 的算子范数误差约束。
• 在正则性条件下，所提预测器的预测误差几乎必然收敛于零，证实了理论一致性。
• 在电力负荷应用中，该模型相比标准arh模型实现了更优的预测性能，尤其在使用温度或一天中时间等协变量时表现更佳。
• 局部核加权的使用使模型能够通过协变量依赖的动力学机制适应功能性时间序列中的制度转换和非平稳性。
• 理论结果在最小假设下推导得出，包括弱依赖性和协变量密度连续性，确保了广泛适用性。