[论文解读] Asymptotics for weakly dependent errors-in-variables

Michal Pešta|arXiv (Cornell University)|Jun 22, 2013

Spectroscopy and Chemometric Analyses被引用 8

一句话总结

该论文在弱依赖条件下建立了线性 errors-in-variables (EIV) 模型中总体最小二乘法 (TLS) 估计量的渐近正态性，具体针对非严格平稳或非同分布的 $\alpha$- 和 $\varphi$- 混合误差。主要贡献在于在一般混合条件下证明了 TLS 估计量的极限正态分布，从而为通过块自展法进行有效推断提供了理论支持。

ABSTRACT

Linear relations, containing measurement errors in input and output data, are taken into account in this paper. Parameters of these so-called errors-in-variables (EIV) models can be estimated by minimizing the total least squares (TLS) of the input-output disturbances. Such an estimate is highly non-linear. Moreover in some realistic situations, the errors cannot be considered as independent by nature. Weakly dependent (α- and ϕ-mixing) disturbances, which are not necessarily stationary nor identically distributed, are considered in the EIV model. Asymptotic normality of the TLS estimate is proved under some reasonable stochastic assumptions on the errors. Derived asymptotic properties provide necessary basis for the validity of block-bootstrap procedures.

研究动机与目标

• 在具有测量误差依赖性的线性 errors-in-variables (EIV) 模型中，建立总体最小二乘法 (TLS) 估计量的渐近正态性。
• 通过允许 $\alpha$- 和 $\varphi$- 混合序列，放宽误差项 i.i.d. 的假设。
• 为 EIV 模型中依赖误差的块自展法程序的有效性提供理论基础。
• 消除对误差项平稳性或同分布性的要求，增强渐近结果的普适性。

提出的方法

• 将 EIV 系统建模为 $\mathbf{Y} = \mathbf{Z}\bm{\beta} + \bm{\varepsilon}$ 和 $\mathbf{X} = \mathbf{Z} + \bm{\Theta}$，其中 $\mathbf{X}, \mathbf{Y}$ 为可观测变量，$\mathbf{Z}$ 为不可观测变量，误差 $\bm{\varepsilon}, \bm{\Theta}$ 为弱依赖。
• 通过最小化输入和输出变量中残差平方和，使用总体最小二乘法 (TLS) 估计 $\bm{\beta}$。
• 通过联合误差向量 $[\bm{\Theta}_{i,\bullet}, \varepsilon_i]$ 的 $\alpha$- 和 $\varphi$- 混合系数施加弱依赖性，允许误差非平稳且非 i.i.d.。
• 应用混合序列的泛函中心极限定理，特别是利用 Bradley (2005) 关于混合系数和矩条件的结果。
• 通过验证矩条件和混合衰减速率，包括 $\sum_{n=1}^\infty \alpha(\rho_\circ, n)^{\omega/(2+\omega)} < \infty$（$\omega > 0$），建立 TLS 估计量的渐近正态性。
• 使用 Cramér-Wold 方法和 Slutsky 定理推导归一化估计误差的极限分布。

实验结果

研究问题

• RQ1 当 EIV 模型中的误差为弱依赖而非 i.i.d. 时，总体最小二乘法 (TLS) 估计量是否仍保持渐近正态性？
• RQ2 在不假设误差序列平稳或同分布的前提下，能否在 $\alpha$- 和 $\varphi$- 混合条件下建立渐近正态性？
• RQ3 哪些矩条件和混合速率条件足以确保弱依赖 EIV 模型中 TLS 估计量的渐近正态性？
• RQ4 混合系数 $\alpha(n)$ 和 $\varphi(n)$ 如何影响 TLS 估计量的收敛速度和极限分布？
• RQ5 基于推导出的渐近正态性，能否为弱依赖误差下的 EIV 模型中块自展法程序提供理论依据？

主要发现

• 在 $\alpha$- 和 $\varphi$- 混合误差下，EIV 模型中回归参数 $\bm{\beta}$ 的总体最小二乘法 (TLS) 估计量具有渐近正态性。
• 渐近正态性成立，无需误差序列满足平稳性或同分布性。
• TLS 估计量的极限方差为 $\mathbf{t}^\top \beth \mathbf{t} > 0$，其中 $\beth$ 是联合输入-输出向量的渐近协方差矩阵。
• 混合系数衰减足够快：$\alpha(\rho_\circ, n)^{\omega/(2+\omega)} = \mathcal{O}(n^{-1 - \delta})$（$\delta > 0$），确保了所需的可求和性条件。
• 证明依赖于验证 $\sum_{n=1}^\infty \mathbb{E}[\xi_n^4]/n^2 < \infty$ 和 $\varphi(\rho_\circ, n) \to 0$（当 $n \to \infty$ 时），这些在给定的矩条件和混合条件下均成立。
• 结果验证了在弱依赖误差的 EIV 模型中使用块自展法进行推断的合理性，因为渐近正态性为重采样方法提供了理论基础。