[论文解读] Nonparametric Independence Testing for Small Sample Sizes

Aaditya Ramdas, Leila Wehbe|arXiv (Cornell University)|Jun 7, 2014

Advanced Statistical Methods and Models参考文献 13被引用 5

一句话总结

本文提出使用收缩估计器——具体为线性（SCOSE）和非线性（FCOSE）——以提升小样本下非参数独立性检验中希尔伯特-施密特独立性准则（HSIC）的统计功效。通过降低经验交叉协方差算子估计量的方差，收缩方法增强了对微弱非线性依赖关系的检测能力，且FCOSE在低假阳性率下的功效始终优于SCOSE和未收缩的HSIC。

ABSTRACT

This paper deals with the problem of nonparametric independence testing, a fundamental decision-theoretic problem that asks if two arbitrary (possibly multivariate) random variables $X,Y$ are independent or not, a question that comes up in many fields like causality and neuroscience. While quantities like correlation of $X,Y$ only test for (univariate) linear independence, natural alternatives like mutual information of $X,Y$ are hard to estimate due to a serious curse of dimensionality. A recent approach, avoiding both issues, estimates norms of an extit{operator} in Reproducing Kernel Hilbert Spaces (RKHSs). Our main contribution is strong empirical evidence that by employing extit{shrunk} operators when the sample size is small, one can attain an improvement in power at low false positive rates. We analyze the effects of Stein shrinkage on a popular test statistic called HSIC (Hilbert-Schmidt Independence Criterion). Our observations provide insights into two recently proposed shrinkage estimators, SCOSE and FCOSE - we prove that SCOSE is (essentially) the optimal linear shrinkage method for extit{estimating} the true operator; however, the non-linearly shrunk FCOSE usually achieves greater improvements in extit{test power}. This work is important for more powerful nonparametric detection of subtle nonlinear dependencies for small samples.

研究动机与目标

• 解决小样本下非参数独立性检验统计功效较低的挑战。
• 探究对经验交叉协方差算子估计量进行收缩是否能提升HSIC的检验功效。
• 比较线性（SCOSE）与非线性（FCOSE）收缩估计器在增强HSIC检测微弱非线性依赖关系能力方面的表现。
• 为在小样本非参数独立性检验中使用收缩方法提供实证与理论依据。

提出的方法

• 采用希尔伯特-施密特独立性准则（HSIC）作为检验统计量，其定义为经验交叉协方差算子的平方希尔伯特-施米特范数。
• 对经验交叉协方差算子估计量 $ S_{XY} $ 应用Stein收缩，利用中心化核矩阵 $ \widetilde{K}, \widetilde{L} $ 通过 $ \mathrm{HSIC} = \frac{1}{n^2}\mathrm{tr}(\widetilde{K}\widetilde{L}) $ 计算HSIC。
• 通过SCOSE（带交叉验证的收缩估计器）实现线性收缩，该方法已被证明是在所有线性收缩估计器中对真实算子估计最优的。
• 通过FCOSE（融合交叉验证估计器）实现非线性收缩，该方法在实践中实现了比SCOSE更大的功效提升。
• 采用置换检验来估计检验统计量的零分布，比较未收缩与收缩版本的表现。
• 分析收缩对未置换统计量相对于置换零分布第95百分位数的相对尾部分位的影响。

实验结果

研究问题

• RQ1 对经验交叉协方差算子估计量进行收缩是否能提升小样本下HSIC的统计功效？
• RQ2 SCOSE是否为该情境下真实交叉协方差算子的最优线性收缩估计器？
• RQ3 非线性收缩（FCOSE）是否比线性收缩（SCOSE）带来更大的功效提升？
• RQ4 为何收缩能增强检验功效，特别是在零分布的右尾？
• RQ5 在何种条件下收缩不会降低性能，何时可能不可行？

主要发现

• 对经验交叉协方差算子的收缩在低假阳性率下始终能提升HSIC的功效，尤其在小样本中表现显著。
• SCOSE已被证明是在所有线性收缩方法中对真实算子估计最优的线性收缩估计器。
• FCOSE作为非线性收缩估计器，通常比SCOSE和未收缩的HSIC带来更高的功效提升。
• 功效提升的原因在于：收缩使零分布的方差降低程度超过未置换检验统计量，从而使后者在零分布的右尾更加突出。
• 在所有测试的合成数据集和真实数据集中，收缩在实际关注的区间（低假阳性率）中均提升了功效，或至少未使功效恶化。
• 结果表明，收缩是检测小样本科学应用中微弱非线性依赖关系的宝贵工具，例如神经科学和因果推断领域。