[论文解读] Two-sample Statistics Based on Anisotropic Kernels

Xiuyuan Cheng, Alexander Cloninger+1 more|arXiv (Cornell University)|Sep 14, 2017

Statistical Methods and Inference参考文献 17被引用 8

一句话总结

本文提出了一种基于各向异性核的新型最大均值差异（MMD）统计量，用于高维概率分布之间的两样本假设检验。通过利用局部协方差结构构建具有较小参考集的非对称核，该方法在保持计算成本较低的同时，增强了对局部低秩分布的检验功效，且在弱假设下证明了理论一致性，并在流式细胞术和扩散磁共振成像数据上得到验证。

ABSTRACT

The paper introduces a new kernel-based Maximum Mean Discrepancy (MMD) statistic for measuring the distance between two distributions given finitely-many multivariate samples. When the distributions are locally low-dimensional, the proposed test can be made more powerful to distinguish certain alternatives by incorporating local covariance matrices and constructing an anisotropic kernel. The kernel matrix is asymmetric; it computes the affinity between $n$ data points and a set of $n_R$ reference points, where $n_R$ can be drastically smaller than $n$. While the proposed statistic can be viewed as a special class of Reproducing Kernel Hilbert Space MMD, the consistency of the test is proved, under mild assumptions of the kernel, as long as $\|p-q\| \sqrt{n} o \infty $, and a finite-sample lower bound of the testing power is obtained. Applications to flow cytometry and diffusion MRI datasets are demonstrated, which motivate the proposed approach to compare distributions.

研究动机与目标

• 开发一种针对高维、局部低秩分布的更强大两样本检验方法，以克服标准MMD在该类分布上可能表现不足的问题。
• 通过使用小规模参考集而非完整数据矩阵，降低基于核的两样本检验的计算和内存开销。
• 通过利用局部协方差矩阵自适应调整核形状，提升对分布间微小差异的检测能力。
• 在弱假设下提供理论一致的检验方法，确保样本量增大时渐近有效性。
• 实现在生物数据分析中的实际应用，特别是在流式细胞术和扩散磁共振成像中，其中分布差异可反映生物相关变化。

提出的方法

• 利用局部协方差矩阵构建各向异性核，基于局部数据几何结构自适应调整核形状。
• 使用大小为 $ n_R \ll n $ 的参考集，其中 $ n $ 为数据点数量，计算数据点与参考点之间的非对称亲和矩阵。
• 将基于核的MMD统计量定义为核算子谱基上直方图投影差异的 $ L^2 $-范数。
• 应用谱分解分析核的谱性质，并推导出检验功效的有限样本下界。
• 引入谱平滑和加权直方图估计以降低方差，增强对局部偏离的敏感性。
• 将两样本检验重新表述为谱嵌入空间中的均值位移检验，从而可使用标准均值位移统计量。

实验结果

研究问题

• RQ1 当高维空间中的分布呈现局部低秩特性时，各向异性核能否提升两样本MMD检验的检验功效？
• RQ2 使用小规模参考集如何影响基于核的MMD检验的一致性和计算效率？
• RQ3 在一般假设下，该方法的理论保证是什么，特别是关于渐近一致性的保证？
• RQ4 该方法如何检测分布间的局部差异？能否进一步调整以提供用于差异分析的局部p值？
• RQ5 该方法能否有效应用于流式细胞术和扩散磁共振成像等真实生物数据集，其中微小的分布偏移具有生物学意义？

主要发现

• 所提出的各向异性核MMD通过基于协方差的核设计自适应匹配局部几何结构，在局部低秩分布上实现了比各向同性MMD更高的检验功效。
• 在条件 $ \|p - q\|\sqrt{n} \to \infty $ 下，该方法确保渐近一致性，该条件对任何固定偏离均成立，且超出 $ O(n^{-1/2}) $ 的临界区域。
• 基于核算子的谱分解，推导出检验功效的有限样本下界，将检验功效与特征结构联系起来。
• 在流式细胞术和扩散磁共振成像数据集上的应用表明，该方法能有效检测标准检验未能捕捉的生物相关分布差异。
• 谱嵌入框架可将一般备择假设转化为低维空间中的均值位移备择假设，从而可使用标准参数检验。
• 使用参考集显著降低了内存和计算成本，且满足 $ n_R \ll n $，同时保持了统计功效和一致性。