[论文解读] The Exact Equivalence of Independence Testing and Two-Sample Testing

Cencheng Shen, Carey E. Priebe+1 more|arXiv (Cornell University)|Oct 20, 2019

Spectroscopy and Chemometric Analyses被引用 12

一句话总结

本文通过将组标签视为辅助变量，建立了两样本检验与独立性检验之间的精确等价性，证明了在总体、样本及基于置换的p值层面，距离相关性与能量统计量在数学上完全相同。该结果使得独立性检验可普遍用于分布相等性检验，提升了可解释性与效率。

ABSTRACT

Testing independence and testing equality of distributions are two tightly related statistical hypotheses. Several distance and kernel-based statistics are recently proposed to achieve universally consistent testing for either hypothesis. On the distance side, the distance correlation is proposed for independence testing, and the energy statistic is proposed for two-sample testing. On the kernel side, the Hilbert-Schmidt independence criterion is proposed for independence testing and the maximum mean discrepancy is proposed for two-sample testing. In this paper, we show that two-sample testing are special cases of independence testing via an auxiliary label vector, and prove that distance correlation is exactly equivalent to the energy statistic in terms of the population statistic, the sample statistic, and the testing p-value via permutation test. The equivalence can be further generalized to K-sample testing and extended to the kernel regime. As a consequence, it suffices to always use an independence statistic to test equality of distributions, which enables better interpretability of the test statistic and more efficient testing.

研究动机与目标

• 解决两样本检验与独立性检验之间在概念与方法论上的鸿沟。
• 证明通过引入辅助标签向量，两样本检验是独立性检验的一个特例。
• 统一基于距离与基于核的统计量，用于分布相等性检验。
• 证明距离相关性与能量统计量在所有统计层面完全等价。
• 通过将所有分布相等性问题简化为独立性检验，实现更可解释且高效的检验。

提出的方法

• 引入辅助标签向量，将两样本检验转化为独立性检验问题。
• 证明在原假设下，总体层面的距离相关性统计量等于能量统计量。
• 建立距离相关性与能量统计量在样本层面检验统计量的等价性。
• 证明基于置换的p值在两种统计量下完全相同。
• 将等价性扩展至K样本检验，以及HSIC与MMD等基于核的方法。
• 通过理论分析表明，独立性检验可无损地涵盖两样本检验。

实验结果

研究问题

• RQ1 在特定变换下，两样本检验是否为独立性检验的一个特例？
• RQ2 距离相关性与能量统计量是否在总体与样本层面产生完全相同的统计量？
• RQ3 基于置换检验的距离相关性与能量统计量的p值是否完全相同？
• RQ4 距离统计量之间的等价性能否扩展至HSIC与MMD等基于核的方法？
• RQ5 该等价性是否允许构建统一框架，从而提升分布相等性检验的可解释性与效率？

主要发现

• 当引入辅助标签向量以区分两组样本时，两样本检验在形式上等价于独立性检验。
• 总体层面的距离相关性统计量在数学上与能量统计量完全相同。
• 距离相关性与能量统计量在样本层面的检验统计量完全相等。
• 两种统计量的基于置换的p值完全相同，证实了其在实践中的等价性。
• 该等价性可扩展至K样本检验，使多组分布相等性检验统一于独立性框架之下。
• 基于核的对应统计量——HSIC与MMD——也表现出相同的等价性，从而实现了距离方法与核方法之间的统一方法论。