[论文解读] Conditional-sum-of-squares estimation of models for stationary time series with long memory

Peter M. Robinson|London School of Economics and Political Science Research Online (London School of Economics and Political Science)|Feb 26, 2007

Financial Risk and Volatility Modeling被引用 8

一句话总结

本文建立了长记忆时间序列模型中条件平方和（CSS）估计量的渐近正态性，证明了CSS估计量在渐近分布性质上与高斯最大似然估计量和Whittle估计量一致。关键贡献在于，针对长记忆设定中预测误差衰减缓慢、截断误差不可忽略的情况，给出了严谨的证明，而标准短记忆论证在此失效。

ABSTRACT

Employing recent results of Robinson (2005) we consider the asymptotic properties of conditional-sum-of-squares (CSS) estimates of parametric models for stationary time series with long memory. CSS estimation has been considered as a rival to Gaussian maximum likelihood and Whittle estimation of time series models. The latter kinds of estimate have been rigorously shown to be asymptotically normally distributed in case of long memory. However, CSS estimates, which should have the same asymptotic distributional properties under similar conditions, have not received comparable treatment: the truncation of the infinite autoregressive representation inherent in CSS estimation has been essentially ignored in proofs of asymptotic normality. Unlike in short memory models it is not straightforward to show the truncation has negligible effect.

研究动机与目标

• 建立平稳长记忆时间序列模型中条件平方和（CSS）估计量的渐近正态性。
• 弥补CSS估计理论处理中的空白，特别是长记忆模型中截断效应不可忽略的问题。
• 证明在长记忆条件下，CSS估计量具有与高斯最大似然估计量和Whittle估计量相同的渐近分布性质。
• 提供一个严谨的渐近正态性证明，考虑了长记忆过程中预测误差衰减缓慢的影响。
• 在AR系数和谱密度的一般条件下，将CSS估计量的几乎必然收敛结果推广至长记忆时间序列。

提出的方法

• 通过最小化残差平方和进行条件平方和（CSS）估计，定义为 $ s_n(\theta) = \frac{1}{n} \sum_{t=1}^n e_t^2(\theta) $，其中 $ e_t(\theta) = \sum_{j=0}^{t-1} \alpha_j(\theta) x_{t-j} $。
• 对得分函数 $ r_n(\theta) = \partial s_n(\theta)/\partial \theta $ 应用中值定理，围绕真实参数 $ \theta_0 $ 展开。
• 将得分差 $ r_n(\theta_0) - r_n^*(\theta_0) $ 分解为三项：$ r_{1n}, r_{2n}, r_{3n} $，以控制用创新项 $ \varepsilon_t $ 替代残差 $ e_t $ 的影响。
• 利用矩不等式和鞅差假设，证明 $ \|r_{1n}\|, \|r_{2n}\|, \|r_{3n}\| = o_p(n^{-1/2}) $，确保截断误差在渐近下可忽略。
• 利用Riemann-Lebesgue定理和Toeplitz引理，控制自协方差和系数和的衰减速率，以证明几乎必然收敛。
• 依赖Robinson（2005）以及Fox和Taqqu（1986）和Dahlhaus（1989）的早期成果，建立长记忆条件下的极限分布。

实验结果

研究问题

• RQ1 在长记忆时间序列模型中，当截断效应不可忽略时，能否严格建立CSS估计量的渐近正态性？
• RQ2 预测误差 $ \mathbb{E}[(e_t - \varepsilon_t)^2] \leq K t^{-1} $ 的缓慢衰减，与短记忆模型相比，如何影响CSS估计量的渐近分布？
• RQ3 在长记忆条件下，CSS估计量是否能达到与高斯最大似然估计量和Whittle估计量相同的渐近效率和分布性质？
• RQ4 在长记忆设定下，什么条件能保证CSS估计量 $ \hat{\theta}_n $ 几乎必然收敛到真实参数 $ \theta_0 $ ？
• RQ5 尽管衰减缓慢，能否证明无限阶AR表示中的截断误差在长记忆条件下渐近消失？

主要发现

• 在AR系数可 summable 且过程遍历的温和条件下，CSS估计量 $ \hat{\theta}_n $ 几乎必然一致收敛于真实参数 $ \theta_0 $。
• 归一化估计量 $ n^{1/2}(\hat{\theta}_n - \theta_0) $ 的渐近分布为均值为零、协方差矩阵为 $ \Omega^{-1} $ 的多元正态分布，其中 $ \Omega $ 由谱密度和得分函数定义。
• 证明表明，尽管 $ \mathbb{E}[(e_t - \varepsilon_t)^2] \leq K t^{-1} $，CSS估计中的截断误差在渐近下可忽略：$ r_n(\theta_0) - r_n^*(\theta_0) = o_p(n^{-1/2}) $，而此条件不足以支持标准论证。
• 关键技术突破在于利用对数衰减率，对残差误差项的 $ L^2 $-范数进行有界控制，具体为 $ \|h_t - \rho_t\|^2 \leq K (\log t)^2 / t $，从而实现 $ o_p(n^{-1/2}) $ 的结果。
• 在创新项 $ \varepsilon_t $ 为独立同分布、零均值、四阶矩有限，且 $ \alpha(s; \theta) $ 关于 $ \theta $ 二次连续可微的假设下，渐近正态性结果成立。
• 在所述条件下，协方差矩阵 $ \Omega $ 正定，确保极限正态分布是非退化的，且估计量在长记忆背景下具有渐近效率。