[论文解读] Homoscedasticity tests for both low and high-dimensional fixed design regressions

Zhidong Bai, Guangming Pan+1 more|arXiv (Cornell University)|Mar 12, 2016

Statistical Methods and Inference参考文献 17被引用 4

一句话总结

本文在低维和高维固定设计设置下，通过建立基于普通最小二乘法（OLS）残差的变异系数检验统计量的渐近正态性，提出了一种线性回归模型的同方差性检验方法。该方法利用帽子矩阵（hat matrix）确保在固定设计或随机设计下均有效，并在异方差性条件下仍能证明渐近正态性，从而在原假设中无需同方差性假设即可保证高检验效能。

ABSTRACT

This paper is to prove the asymptotic normality of a statistic for detecting the existence of heteroscedasticity for linear regression models without assuming randomness of covariates when the sample size $n$ tends to infinity and the number of covariates $p$ is either fixed or tends to infinity. Moreover our approach indicates that its asymptotic normality holds even without homoscedasticity.

研究动机与目标

• 开发一种在高维线性回归中对固定设计矩阵和随机设计矩阵均保持有效的同方差性检验方法。
• 在原假设下不假设同方差性的情况下，建立基于残差的变异系数检验统计量的渐近正态性。
• 通过消除对协变量独立同分布（i.i.d.）的假设，并在固定设计下保持有效性，扩展现有的高维同方差性检验方法。
• 通过证明即使在异方差性存在时检验统计量仍具渐近正态性，从而提高同方差性检验的效能。

提出的方法

• 检验统计量 T 定义为标准化的样本峰度（normalized sample kurtosis）的平方 OLS 残差，用于衡量对常数方差的偏离程度。
• 基于帽子矩阵 P 对残差向量进行变换后的一阶与二阶矩，利用 delta 方法推导出 T 的渐近分布。
• 推导依赖于高维随机向量的二次型的联合渐近矩，其四阶与八阶矩有界。
• 通过帽子矩阵 P 将残差表示为 Pε，从而在不假设协变量独立同分布的条件下，实现对固定设计的分析。
• 证明过程使用矩展开及误差向量四阶与八阶矩的组合分解，通过投影矩阵考虑依赖结构。
• 该方法避免对协变量的分布假设，通过聚焦帽子矩阵的结构，适用于固定设计与随机设计。

实验结果

研究问题

• RQ1 能否构建一种在高维回归中对固定设计矩阵仍有效的同方差性检验？
• RQ2 当协变量数量 p 随样本量 n 增长时，残差的变异系数检验统计量是否仍保持渐近正态性？
• RQ3 即使在异方差性条件下，检验统计量的渐近正态性是否仍能保持，从而确保高检验效能？
• RQ4 能否在不假设协变量独立同分布或正态分布的前提下证明该检验的有效性？
• RQ5 在同方差性原假设下，检验统计量的显式渐近均值与方差是什么？

主要发现

• 在同方差性原假设下，即使当 p/n → y ∈ [0,1) 时，检验统计量 T 仍渐近服从正态分布，涵盖高维情形。
• T 的渐近正态性不依赖于同方差性假设，从而在检测异方差性时具有高统计效能。
• T 的渐近均值约为 3n·tr(P∘P)/((n−p)² + 2(n−p)) − 1，其方差由帽子矩阵的矩导出。
• 该检验在固定设计矩阵下有效，因推导仅依赖帽子矩阵 P 的结构，而不依赖随机协变量。
• 检验统计量的渐近分布对非正态误差分布具有鲁棒性，仅需误差项具有有界八阶矩。
• 该方法通过在固定设计下提供高维、非渐近的理论依据，推广了经典检验（如 Breusch-Pagan 和 White 检验）。