[论文解读] Singularity-agnostic incomplete U-statistics for testing polynomial constraints in Gaussian covariance matrices

Dennis Y.C. Leung, Nils Sturma|arXiv (Cornell University)|Jan 4, 2024

Random Matrices and Applications被引用 4

一句话总结

本文提出了一种与奇点无关的不完备U统计量，用于检验高斯协方差矩阵中的多项式约束，解决了在近奇点情形下经典Wald检验收敛缓慢的问题。通过利用改进的Berry-Esseen界和次Weibull浓度不等式，该方法实现了与原假设奇点状态无关的统一收敛速率，确保在约束梯度消失时仍能实现可靠的推断。

ABSTRACT

Testing the goodness-of-fit of a model with its defining functional constraints in the parameters could date back to Spearman (1927), who analyzed the famous "tetrad" polynomial in the covariance matrix of the observed variables in a single-factor model. Despite its long history, the Wald test typically employed to operationalize this approach could produce very inaccurate test sizes in many situations, even when the regular conditions for the classical normal asymptotics are met and a very large sample is available. Focusing on testing a polynomial constraint in a Gaussian covariance matrix, we obtained a new understanding of this baffling phenomenon: When the null hypothesis is true but "near-singular", the standardized Wald test exhibits slow weak convergence, owing to the sophisticated dependency structure inherent to the underlying U-statistic that ultimately drives its limiting distribution; this can also be rigorously explained by a key ratio of moments encoded in the Berry-Esseen bound quantifying the normal approximation error involved. As an alternative, we advocate the use of an incomplete U-statistic to mildly tone down the dependence thereof and render the speed of convergence agnostic to the singularity status of the hypothesis. In parallel, we develop a Berry-Esseen bound that is mathematically descriptive of the singularity-agnostic nature of our standardized incomplete U-statistic, using some of the finest exponential-type inequalities in the literature.

研究动机与目标

• 解决在近奇点情形下，使用经典Wald检验检验高斯协方差矩阵中多项式约束时，有限样本性能差的问题。
• 解决由于Wald检验所依赖的U统计量中存在复杂依赖结构，导致其弱收敛速度缓慢的问题。
• 开发一种收敛速率与原假设奇点状态无关的检验统计量。
• 建立一个新的Berry-Esseen界，明确捕捉所提出的不完备U统计量的与奇点无关的特性。
• 为代数统计和结构方程模型情境提供一个理论基础坚实、稳健的Wald检验替代方法。

提出的方法

• 本文引入了一种不完备U统计量，通过截断高阶交互作用，适度降低原始U统计量中的依赖性，从而在近奇点情形下稳定收敛性。
• 采用解耦不等式和指数型浓度界（如次Weibull范数）来控制高斯变量多项式函数的尾部行为。
• 利用超展开性与矩比分析，推导出一种新颖的Berry-Esseen界，明确量化了基于U统计量结构的正态近似误差。
• 该方法依赖于对高斯变量中2r次多项式的精细矩分析，利用引理2.2和超展开性来控制高阶矩。
• 标准化检验统计量被构造为估计约束函数与其估计标准误之比，采用基于不完备U统计量的修正方差估计器。
• 通过索引的分层分解和子集上的最大不等式，推导出理论保证，确保在所有可能的奇点配置下实现统一控制。

Figure 1.1. The empirical test sizes (produced by $1000$ repeated experiments) of two types of statistics with critical values calibrated based on their asymptotic null distribution $\mathcal{N}(0,1)$ , plotted against various target nominal levels. These statistics test the particular tetrad $f(\Th

实验结果

研究问题

• RQ1 为何在近奇点情形下，经典Wald检验在检验高斯协方差矩阵中的多项式约束时表现出收敛缓慢且尺寸不准确？
• RQ2 如何控制U统计量中固有的依赖结构，以实现无论原假设奇点状态如何，均具有统一的收敛速率？
• RQ3 能否构建一个Berry-Esseen界，明确反映该情境下检验统计量的与奇点无关的特性？
• RQ4 矩比和次Weibull范数在量化弱正则条件下基于U统计量的检验收敛速度方面发挥何种作用？
• RQ5 是否可能构造一种检验统计量，其极限分布以与原假设是否为正则、奇异或近奇异无关的速率被正态分布良好近似？

主要发现

• 即使样本量较大且满足正则性条件，经典Wald检验在近奇点情形下仍因底层U统计量中复杂的依赖结构而导致弱收敛速度缓慢。
• 所提出的不完备U统计量通过减弱U统计量核的依赖强度，在所有奇点类型下均实现了统一的收敛速率。
• 建立了一个新的Berry-Esseen界，其明确依赖于U统计量核的矩比，以一种与奇点状态无关的方式量化了正态近似误差。
• 该方法确保标准化检验统计量以与约束梯度在真实参数处是否消失无关的速率收敛至标准正态分布。
• 理论分析证实，所提出的检验在近奇点存在时仍能保持准确的尺寸控制，而经典Wald检验则会失效。
• 利用次Weibull范数和超展开性，可对高斯变量多项式函数的高阶矩实现紧密控制，这对推导统一浓度界至关重要。