[论文解读] Resampling in Time Series Models

Abhishek Bhattacharya, Arup Bose|arXiv (Cornell University)|Jan 5, 2012

Financial Risk and Volatility Modeling参考文献 7被引用 3

一句话总结

本文提出了加权自助法（WB）和残差自助法（RB）方法，用于估计AR(1)和ARCH(1)时间序列模型中估计量的抽样分布。在较弱的矩条件和权重条件下，建立了加权自助法的渐近一致性，证明其在捕捉抽样变异性方面优于标准残差自助法，尤其是在重尾误差设定下表现更优。

ABSTRACT

This project revolves around studying estimators for parameters in different Time Series models and studying their assymptotic properties. We introduce various bootstrap techniques for the estimators obtained. Our special emphasis is on Weighted Bootstrap. We establish the consistency of this scheme in a AR model and its variations. Numerical calculations lend further support to our consistency results. Next we analyze ARCH models, and study various estimators used for different error distributions. We also present resampling techniques for estimating the distribution of the estimators. Finally by simulating data, we analyze the numerical properties of the estimators.

研究动机与目标

• 研究在各种误差分布下，AR(1)和ARCH(1)时间序列模型中估计量的渐近性质。
• 评估在正态分布和重尾创新误差下，不同估计程序（最大似然估计、最小绝对偏差估计等）的有限样本性能。
• 在一般矩条件和权重条件下，建立AR(1)模型参数的加权自助法（WB）估计量的一致性。
• 比较残差自助法（RB）、m-抽样自助法（m-out-of-n RB）和WB在近似ARCH(1)模型中估计量抽样分布方面的表现。
• 评估在非正态、重尾误差分布（如自由度为3和4的t分布）下，估计量和重抽样技术的稳健性。

提出的方法

• 使用定义为 $\hat{\theta}^{*}_{n} = \frac{\sum_{t=2}^{n} w_{t} X_{t} X_{t-1}}{\sum_{t=2}^{n} w_{t} X^{2}_{t-1}}$ 的加权自助法估计量，其中 $w_t$ 为独立同分布的随机权重，且与数据独立。
• 应用P-W定理（Praestgaard和Wellner，1993），在权重满足均值为1、方差为 $o(n)$ 且弱依赖的条件下，推导加权自助法的自助中心极限定理。
• 通过替换抽样标准化残差 $\hat{Z}_t = X_t - \hat{\theta}_n X_{t-1}$ 的方式应用残差自助法，并重新模拟AR(1)过程。
• 在 $n=100$ 时采用 $m=50$ 的m-抽样自助法（m-out-of-n RB）以改善重尾设定下的一致性。
• 使用Kolmogorov-Smirnov检验比较基于原始数据的检验统计量 $V_n$ 的经验分布与基于自助样本的 $V_n^*$ 的经验分布。
• 通过蒙特卡洛模拟（每种设定下200次样本，$n=100$）计算不同估计量和误差分布下的平均绝对误差。

实验结果

研究问题

• RQ1 在何种条件下，AR(1)模型参数 $\theta$ 的加权自助法估计量是一致的？
• RQ2 加权自助法在估计 $\hat{\theta}_n$ 的抽样分布方面，与残差自助法相比表现如何？
• RQ3 在正态和重尾误差分布下，哪种估计程序——最大似然估计、最小绝对偏差估计或其他——能产生最低的平均绝对误差？
• RQ4 在具有重尾创新误差的ARCH(1)模型中，m-抽样自助法是否优于全样本残差自助法，从而提升一致性？
• RQ5 在测量标准为Kolmogorov-Smirnov检验时，WB、RB和m-抽样自助法在近似ARCH(1)模型中估计量真实抽样分布方面的表现如何？

主要发现

• 在条件A1–A4下，加权自助法估计量 $\hat{\theta}^{*}_n$ 具有渐近一致性，满足 $P_B[\sqrt{n}\sigma_n^{-1}(\hat{\theta}^{*}_n - \hat{\theta}_n) \leq x \mid X_1,\dots,X_n] - P[Y \leq x] = o_P(1)$，其中 $Y \sim N(0, 1-\theta^2)$。
• 对于正态误差，最大似然估计量 ($\hat{\theta}_{ml}$) 的平均绝对误差最低（2.548）；而对于 $t_3$ 误差，最小绝对偏差估计量 ($\hat{\theta}_2$) 表现最佳，平均误差为2.307。
• 全样本残差自助法不一致，表现为 $\hat{c}_{0ml}$ 的KS检验p值显著（0.005），而m-抽样自助法和加权自助法表现更优，p值均大于0.05。
• 在ARCH(1)模型中，加权自助法对最大似然估计量和最小绝对偏差估计量均表现良好，p值分别为0.286和0.057，表明其对真实抽样分布的近似效果良好。
• 当误差服从 $t_3$ 分布时，最大似然估计量的平均误差上升至11.097，而最小绝对偏差估计量 ($\hat{\theta}_2$) 将其降低至2.307，显示出对重尾的稳健性。
• 对于 $t_4$ 分布误差，最小绝对偏差估计量 ($\hat{\theta}_2$) 的平均误差为4.528，显著低于最大似然估计量（13.107），证实其在更重尾分布下的稳健性。