[论文解读] Distance Covariance in Metric Spaces: Non-Parametric Independence Testing in Metric Spaces (Master's thesis)

Martin Emil Jakobsen|arXiv (Cornell University)|Jun 12, 2017

Bayesian Methods and Mixture Models参考文献 7被引用 5

一句话总结

本硕士论文提出了一种在可分度量空间中使用距离协方差泛函的非参数独立性检验方法，该方法最初由 Russell Lyons 开发。研究证明，在强负类型度量空间（如可分希尔伯特空间）中，距离协方差为零当且仅当随机变量相互独立。论文构建了该泛函的一致估计量，并提出了基于自助法的假设检验，实现了无需参数假设的有效推断。

ABSTRACT

The aim of this thesis is to find a solution to the non-parametric independence problem in separable metric spaces. Suppose we are given finite collection of samples from an i.i.d. sequence of paired random elements, where each marginal has values in some separable metric space. The non-parametric independence problem raises the question on how one can use these samples to reasonably draw inference on whether the marginal random elements are independent or not. We will try to answer this question by utilizing the so-called distance covariance functional in metric spaces developed by Russell Lyons. We show that, if the marginal spaces are so-called metric spaces of strong negative type (e.g. seperable Hilbert spaces), then the distance covariance functional becomes a direct indicator of independence. That is, one can directly determine whether the marginals are independent or not based solely on the value of this functional. As the functional formally takes the simultaneous distribution as argument, its value is not known in the posed non-parametric independence problem. Hence, we construct estimators of the distance covariance functional, and show that they exhibit asymptotic properties which can be used to construct asymptotically consistent statistical tests of independence. Finally, as the rejection thresholds of these statistical tests are non-traceable we argue that they can be reasonably bootstrapped.

研究动机与目标

• 解决在不作任何参数分布假设的前提下，可分度量空间中的非参数独立性问题。
• 将距离协方差概念从欧几里得空间扩展至一般度量空间，特别是强负类型空间。
• 当真实联合分布未知时，为距离协方差泛函开发一致估计量。
• 基于这些估计量构建渐近有效的独立性检验统计量。
• 通过提出基于自助法的临界值估计方法，解决不可追踪的拒绝域阈值问题。

提出的方法

• 利用度量空间中的距离协方差泛函作为依赖性度量，其定义基于特征函数和乘积空间上的积分。
• 应用度量空间理论的结果，特别是强负类型的概念，以确保距离协方差为零当且仅当随机元素相互独立。
• 从独立同分布的配对样本中构建基于U-统计量的估计量，利用霍夫丁分解进行渐近分析。
• 推导在独立性原假设下的估计量渐近分布，表明其收敛至退化分布。
• 使用自助法近似检验统计量的抽样分布，从而在解析阈值难以计算时实现临界值估计。
• 采用复化与张量积技术处理希尔伯特空间值积分，为抽象度量空间中的理论基础提供支持。

实验结果

研究问题

• RQ1 距离协方差泛函能否在一般可分度量空间中直接作为独立性的指示器？
• RQ2 在何种度量空间条件下，距离协方差为零当且仅当随机元素相互独立？
• RQ3 当真实联合分布未知时，如何从有限的独立同分布样本中一致估计距离协方差泛函？
• RQ4 在独立性原假设下，所提估计量的渐近性质为何？
• RQ5 当拒绝域阈值在解析上不可行时，如何可靠地计算独立性检验的拒绝阈值？

主要发现

• 在强负类型度量空间（如可分希尔伯特空间）中，距离协方差泛函为零当且仅当随机元素相互独立，使其成为独立性的直接指示器。
• 所提出的距离协方差泛函估计量是一致的，随着样本量增加，以概率收敛至真实值。
• 在原假设下，检验统计量的渐近分布为退化分布，因此需要重抽样方法进行临界值估计。
• 自助程序提供了一种有效且实用的方法，用于近似检验统计量的抽样分布，从而实现渐近一致的假设检验。
• 理论框架将距离协方差的应用范围从欧几里得空间扩展至一般可分度量空间，包括具有复杂或无限维结构的空间。
• 关键引理中关于距离协方差核有界性的证明依赖于三角不等式和度量性质，确保了估计量的可积性与稳定性。