[论文解读] Joint limiting laws for high-dimensional independence tests

Danning Li, Lingzhou Xue|arXiv (Cornell University)|Dec 30, 2015

Statistical Methods and Inference参考文献 28被引用 14

一句话总结

本文提出了一种无模型的高维独立性联合检验方法，通过结合极值统计量与二次型统计量，在原假设下证明了二者渐近独立。该方法在保持正确渐近尺寸的同时，对稀疏与密集替代假设均具有的一致功效，且其极限分布具有闭式表达式，并在超高维设置下推导出明确的收敛速率。

ABSTRACT

Testing independence is of significant interest in many important areas of large-scale inference. Using extreme-value form statistics to test against sparse alternatives and using quadratic form statistics to test against dense alternatives are two important testing procedures for high-dimensional independence. However, quadratic form statistics suffer from low power against sparse alternatives, and extreme-value form statistics suffer from low power against dense alternatives with small disturbances and may have size distortions due to its slow convergence. For real-world applications, it is important to derive powerful testing procedures against more general alternatives. Based on intermediate limiting distributions, we derive (model-free) joint limiting laws of extreme-value form and quadratic form statistics, and surprisingly, we prove that they are asymptotically independent. Given such asymptotic independencies, we propose (model-free) testing procedures to boost the power against general alternatives and also retain the correct asymptotic size. Under the high-dimensional setting, we derive the closed-form limiting null distributions, and obtain their explicit rates of uniform convergence. We prove their consistent statistical powers against general alternatives. We demonstrate the performance of our proposed test statistics in simulation studies. Our work provides very helpful insights to high-dimensional independence tests, and fills an important gap.

研究动机与目标

• 解决现有高维独立性检验方法在稀疏与密集替代假设下均缺乏功效的局限性。
• 构建统一的检验框架，结合极值统计量与二次型统计量，以提升在多样化替代假设下的检验功效。
• 在原假设下建立两种检验统计量的联合极限分布，并证明其渐近独立性。
• 推导联合检验统计量的闭式极限零分布及显式的统一收敛速率。
• 确保所提检验在超高维设置下对一般替代假设保持正确的渐近尺寸，同时实现一致功效。

提出的方法

• 提出一种通过无模型方法结合极值形式（针对稀疏替代假设）与二次形式（针对密集替代假设）的联合检验统计量。
• 在原假设下推导两种检验统计量的中间极限分布，表明其收敛于二元正态分布。
• 证明在原假设下，极值统计量与二次型统计量之间具有渐近独立性，这是一个出人意料且关键的结果。
• 利用联合极限分布构建组合检验，其临界值由组合统计量的渐近分布确定。
• 基于矩条件与迹标准化方法，建立极限零分布的显式统一收敛速率。
• 采用两步检验程序：首先计算极值统计量与二次型统计量；其次，利用推导出的联合渐近分布组合二者，以控制尺寸并提升功效。

实验结果

研究问题

• RQ1 能否通过结合极值与二次型统计量的联合检验，在高维独立性检验中对稀疏与密集替代假设均实现一致功效？
• RQ2 在高维原假设下，极值统计量与二次型统计量是否渐近独立？
• RQ3 联合检验统计量的闭式极限零分布为何？其收敛速率如何？
• RQ4 所提方法是否能在提升功效的同时保持正确的渐近尺寸，优于单一检验？
• RQ5 在一般替代假设下（包括稀疏与密集偏离独立性的情形），所提检验统计量的表现如何？

主要发现

• 在高维原假设下，极值统计量与二次型统计量渐近独立，这一非平凡结果使得有效的联合推断成为可能。
• 联合检验对稀疏替代假设（其中 $ \text{tr}(\boldsymbol{\nabla}^2) \to 0 $）与密集替代假设（其中 $ \text{tr}(\boldsymbol{\nabla}^2) \to \tau^2 > 0 $）均具有的一致功效。
• 联合检验统计量的极限零分布为二元正态分布，其均值与协方差结构通过迹标准化方法显式推导得出。
• 极限分布的统一收敛速率为 $ O\big( \frac{\text{tr}^4(\boldsymbol{\nabla}^2)}{n^5} + \frac{\text{tr}^2(\boldsymbol{\nabla}^4)}{n^5} + \frac{\text{tr}(\boldsymbol{\nabla}^8)}{n^3} \big) $，其中 $ \boldsymbol{\nabla} = \boldsymbol{\nabla} - \boldsymbol{I} $。
• 该检验保持了正确的渐近尺寸，因为临界值 $ c_\beta $ 是由联合渐近分布的分位数导出的。
• 模拟研究证实，与单一检验相比，该方法在混合或中等信号强度设定下表现出更优的功效。