[论文解读] Direction-Projection-Permutation for High Dimensional Hypothesis Tests

Susan Wei, Chihoon Lee+3 more|arXiv (Cornell University)|Apr 2, 2013

Gene expression and cancer classification参考文献 14被引用 6

一句话总结

本文提出方向-投影-置换（DiProPerm）方法，一种用于高维小样本（HDLSS）设置下检验高维假设的非参数框架。该方法结合通过二元线性分类器（如DWD）进行方向选择、基于单变量投影的检验以及置换重抽样以评估显著性，在模拟数据和真实基因表达数据中均展现出理论有效性与高统计功效，尤其在视觉分离常因过拟合而产生误导的场景下表现优异。

ABSTRACT

Motivated by the prevalence of high dimensional low sample size datasets in modern statistical applications, we propose a general nonparametric framework, Direction-Projection-Permutation (DiProPerm), for testing high dimensional hypotheses. The method is aimed at rigorous testing of whether lower dimensional visual differences are statistically significant. Theoretical analysis under the non-classical asymptotic regime of dimension going to infinity for fixed sample size reveals that certain natural variations of DiProPerm can have very different behaviors. An empirical power study both confirms the theoretical results and suggests DiProPerm is a powerful test in many settings. Finally DiProPerm is applied to a high dimensional gene expression dataset.

研究动机与目标

• 解决在高维小样本（HDLSS）数据中检测统计显著差异的挑战，其中视觉分离可能因过拟合而产生误导。
• 开发一种通用的非参数检验框架，严格评估高维数据中低维可视化差异是否具有统计显著性。
• 研究 DiProPerm 在维度增长而样本量保持不变的非经典渐近情形下的理论有效性与经验功效。
• 在真实世界基因表达数据集中展示该方法的实用性，表明视觉上明显的分离可能并不具有统计显著性。

提出的方法

• 使用基于原始类别标签训练的二元线性分类器（如距离加权判别法或 DWD）的法向量选择方向。
• 将两组样本投影到该方向上，并计算单变量两样本检验统计量（如 t 统计量或马氏距离）。
• 通过置换检验：反复合并样本，随机重新分配类别标签，重新训练分类器，并在重标号数据上重新计算检验统计量。
• 通过将原始检验统计量与置换统计量的分布进行比较来评估显著性；若原始统计量位于置换值的上 100α% 范围内，则拒绝原假设。
• 结合不同方向选择方法与检验统计量，评估框架的稳健性与功效。
• 将该方法应用于真实 HDLSS 基因表达数据集（UNCGEO 与 UNCUP），以检验癌症亚型之间是否存在显著差异。

实验结果

研究问题

• RQ1 当视觉投影显示分离时，DiProPerm 是否能可靠检测出高维数据中的统计显著差异？
• RQ2 在 HDLSS 设置下，DiProPerm 在检验均值相等性时在何种条件下具有有效性？
• RQ3 在高维模拟设置中，DiProPerm 的功效与标准单变量检验相比如何？
• RQ4 投影数据中的视觉分离在多大程度上反映了真实的统计差异，或仅仅是过拟合的产物？
• RQ5 与视觉检查相比，DiProPerm 在真实基因表达数据上的表现如何？

主要发现

• 由于置换检验理论，DiProPerm 是分布相等性的精确水平 α 检验，确保了正确的第一类错误控制。
• 在检验均值相等性时，部分 DiProPerm 变体因依赖于过拟合方向而理论无效，但特定版本（如 DWD-t）具有有效性且功效较高。
• 在模拟实验中，DWD-MD 与 RP（随机投影下的马氏距离）检验优于 MD-MD（均值差异与马氏距离结合），尤其当信号未与最大变异方向对齐时。
• 在高斯混合设置中，DWD-t 检验的功效高于 MD-MD，证实了使用 DWD 进行高维判别具有优势。
• 在真实基因表达数据中，DiProPerm 揭示出视觉上显著的分离（如 UNCGEO 中的 Luminal A 与 Luminal B）并不具有统计显著性，而如 UNCUP 中 Luminal 与 HER/Basal 之间的分离则高度显著。
• DiProPerm 的经验 p 值正确识别出 UNCGEO 中视觉分离不显著，与初始视觉印象相悖，验证了该方法的稳健性。