[论文解读] Transport Dependency: Optimal Transport Based Dependency Measures

Thomas Giacomo Nies, Thomas Staudt+1 more|arXiv (Cornell University)|May 5, 2021

Statistical Methods and Inference被引用 8

一句话总结

本文提出了一种基于最优传输的统计依赖性度量——传输依赖性（transport dependency），用于一般波兰空间上随机变量之间的依赖性分析。通过量化将联合分布转换为乘积测度（即各边缘分布的乘积）所需的代价（基于基代价函数），该方法以零依赖性表征统计独立性，并可定义具有清晰可解释性与一致估计性能的归一化相关系数。在高维基因表达数据上验证了其鲁棒性能，即使在非度量相似性度量下亦表现稳定。

ABSTRACT

Finding meaningful ways to measure the statistical dependency between random variables $ξ$ and $ζ$ is a timeless statistical endeavor. In recent years, several novel concepts, like the distance covariance, have extended classical notions of dependency to more general settings. In this article, we propose and study an alternative framework that is based on optimal transport. The transport dependency $τ\ge 0$ applies to general Polish spaces and intrinsically respects metric properties. For suitable ground costs, independence is fully characterized by $τ= 0$. Via proper normalization of $τ$, three transport correlations $ρ_α$, $ρ_\infty$, and $ρ_*$ with values in $[0, 1]$ are defined. They attain the value $1$ if and only if $ζ= φ(ξ)$, where $φ$ is an $α$-Lipschitz function for $ρ_α$, a measurable function for $ρ_\infty$, or a multiple of an isometry for $ρ_*$. The transport dependency can be estimated consistently by an empirical plug-in approach, but alternative estimators with the same convergence rate but significantly reduced computational costs are also proposed. Numerical results suggest that $τ$ robustly recovers dependency between data sets with different internal metric structures. The usage for inferential tasks, like transport dependency based independence testing, is illustrated on a data set from a cancer study.

研究动机与目标

• 开发一种在一般波兰空间上具有统计可解释性且尊重度量结构的随机变量间依赖性度量。
• 在合适的代价函数下，通过传输依赖性值为零来刻画统计独立性。
• 定义归一化相关系数（ρα, ρ∞, ρ∗），使得当且仅当一个变量是另一个变量的确定性函数时，其取值为1。
• 提供传输依赖性的一致且计算高效的估计器，其复杂度相比标准插补方法有所降低。
• 在真实推断任务中展示该方法的实用性，例如在高维生物数据中进行独立性检验。

提出的方法

• 提出传输依赖性 τ(γ) = T_c(γ, μ⊗ν)，即联合分布 γ 与边缘分布乘积 μ⊗ν 之间的最优传输代价。
• 在 X×Y 上使用基代价函数 c 定义传输代价，且当且仅当 γ=μ⊗ν 时 τ=0（即统计独立）。
• 定义三种归一化相关系数：ρα（α-利普希茨函数）、ρ∞（可测函数）和 ρ∗（等距多重函数），三者均取值于 [0,1]。
• 提出一种经验插补估计器用于 τ，具备一致性保证，并进一步提出计算成本更低但收敛速率相同的替代估计器。
• 采用置换检验进行独立性检验，利用交换性下的零分布。
• 在输入空间 X 上使用非度量相似性（如基因表达相关性 κ）作为代价，在响应变量 Y 上使用绝对差值。

实验结果

研究问题

• RQ1 能否利用最优传输定义一种内在尊重度量结构的依赖性度量，并通过 τ=0 来刻画独立性？
• RQ2 如何对传输依赖性进行归一化，以获得在 [0,1] 区间内、具有清晰函数依赖关系解释的可解释相关系数？
• RQ3 在一致经验估计器与计算效率更高但收敛速率相同的替代方法之间，存在怎样的计算权衡？
• RQ4 传输依赖性能否在高维、非度量数据（如基因表达谱）中检测到有意义的依赖关系？
• RQ5 在复杂生物数据中，该方法是否在检测结构性依赖关系方面优于现有度量（如距离相关性或互信息）？

主要发现

• 当且仅当代价函数为度量时，传输依赖性 τ 为零当且仅当变量统计独立。
• 归一化相关系数 ρα、ρ∞ 和 ρ∗ 分别在且仅在 ζ=φ(ξ) 时取值为 1，其中 φ 为 α-利普希茨函数、可测函数或等距多重函数。
• 通过经验插补方法可实现 τ 的一致估计，且替代估计器在保持相同收敛速率的同时显著降低计算成本。
• 在乳腺癌基因表达数据集中，τ 检测到基因表达与雌激素受体状态之间存在强依赖性（τ=0.630，p=0.001），以及与转移状态之间的依赖性（τ=0.378，p=0.006），而对于血管浸润则未能拒绝独立性假设（p=0.220）。
• 该方法即使在高维空间中使用非度量相似性度量，也能成功识别结构性依赖关系，优于依赖于度量结构的方法。
• 数值实验显示（r=5000，n<100），传输依赖性能够在多种内部度量结构下稳健恢复依赖关系。