[论文解读] Generalizing Distance Covariance to Measure and Test Multivariate Mutual Dependence

Ze Jin, David S. Matteson|arXiv (Cornell University)|Sep 8, 2017

Advanced Statistical Methods and Models参考文献 12被引用 5

一句话总结

本文提出三种基于广义距离相关性的多元相互依赖度量方法，利用特征函数和V-统计量检测多个随机向量之间的非线性与非单调依赖关系。这些度量在且仅在所有向量相互独立时为零，所提出的检验在模拟和真实数据中表现出强大的检验效能，优于可能因平均效应而遗漏依赖关系的成对独立性检验。

ABSTRACT

We propose three measures of mutual dependence between multiple random vectors. All the measures are zero if and only if the random vectors are mutually independent. The first measure generalizes distance covariance from pairwise dependence to mutual dependence, while the other two measures are sums of squared distance covariance. All the measures share similar properties and asymptotic distributions to distance covariance, and capture non-linear and non-monotone mutual dependence between the random vectors. Inspired by complete and incomplete V-statistics, we define the empirical measures and simplified empirical measures as a trade-off between the complexity and power when testing mutual independence. Implementation of the tests is demonstrated by both simulation results and real data examples.

研究动机与目标

• 为解决当成对独立性检验可能因平均效应而失效时，缺乏有效方法检测多个多元随机向量之间相互独立性的难题。
• 将距离相关性从成对关系推广至多元相互依赖性，确保该度量在且仅在所有向量相互独立时为零。
• 基于不完全V-统计量，开发计算上可行的检验方法，使用经验与简化的经验度量，平衡复杂性与统计效能。
• 通过模拟和真实数据展示该方法的有效性，证明其在检测相互依赖关系方面优于成对方法。

提出的方法

• 提出一种基于加权特征函数的V-统计量的完整相互依赖度量，源自联合特征函数与边缘特征函数乘积之间L2-范数的差异。
• 引入该度量的两种对称与非对称变体，作为所有分量对之间距离相关性的平方和，确保在相互独立时度量为零。
• 采用基于不完全V-统计量的经验与简化经验版本的检验统计量，以降低计算复杂度，同时保持渐近性质。
• 利用特征函数及基于特征函数的期望定义度量，实现对复杂依赖结构的非参数检测。
• 推导在原假设与备择假设下的渐近分布，表明在独立性下收敛于加权卡方分布，在依赖性下发散。
• 应用多元Slutsky定理及各分量的渐近独立性，建立在原假设下检验统计量的极限分布。

实验结果

研究问题

• RQ1 能否将距离相关性推广至度量多于两个多元随机向量之间的相互依赖性，而不仅限于成对依赖？
• RQ2 所提出的相互依赖度量是否能正确检测成对方法可能遗漏的非线性与非单调依赖关系？
• RQ3 基于经验与简化经验版本的检验统计量能否在降低复杂性的同时保持足够的统计效能？
• RQ4 在高维设置下，所提出的度量与现有方法（如dHSIC和成对距离相关性）相比，在检测相互依赖关系方面表现如何？

主要发现

• 所提出的完整相互依赖度量在且仅在随机向量相互独立时为零，确保了相互依赖关系的精确检测。
• 在原假设下，检验统计量的渐近分布收敛于加权卡方分布之和，从而可进行有效的p值计算。
• 模拟结果表明，即使所有成对依赖关系均微弱或不存在，所提出的检验仍能成功检测出相互依赖关系，展现出对成对检验的优越性。
• 简化经验版本显著降低了计算复杂度，同时保持了高统计效能，使该方法在中等样本规模下具备可扩展性。
• 真实数据示例证实，该方法能够检测实际场景中复杂的非线性相互依赖关系，而传统方法则可能失效。
• 该方法优于基于成对独立性检验的现有方法，后者可能因成对依赖关系中的抵消效应而错误地得出独立性结论。