[论文解读] Discovering Conditionally Salient Features with Statistical Guarantees

Jaime Roquero Gimenez, James Zou|arXiv (Cornell University)|May 29, 2019

Gene expression and cancer classification参考文献 22被引用 6

一句话总结

本文提出了一种条件特征选择方法，将 knockoff 框架扩展至识别特征空间特定子区域中相关的特征，同时保持对局部错误发现率（FDR）的统计控制。通过采用数据驱动、模型无关的方法，并确保重要性评分的局部对称性，该方法在条件化局部特征值时仍能实现有效的 FDR 控制，且不牺牲统计保证，即使在高维设置下亦成立。

ABSTRACT

The goal of feature selection is to identify important features that are relevant to explain an outcome variable. Most of the work in this domain has focused on identifying globally relevant features, which are features that are related to the outcome using evidence across the entire dataset. We study a more fine-grained statistical problem: conditional feature selection, where a feature may be relevant depending on the values of the other features. For example in genetic association studies, variant $A$ could be associated with the phenotype in the entire dataset, but conditioned on variant $B$ being present it might be independent of the phenotype. In this sense, variant $A$ is globally relevant, but conditioned on $B$ it is no longer locally relevant in that region of the feature space. We present a generalization of the knockoff procedure that performs conditional feature selection while controlling a generalization of the false discovery rate (FDR) to the conditional setting. By exploiting the feature/response model-free framework of the knockoffs, the quality of the statistical FDR guarantee is not degraded even when we perform conditional feature selections. We implement this method and present an algorithm that automatically partitions the feature space such that it enhances the differences between selected sets in different regions, and validate the statistical theoretical results with experiments.

研究动机与目标

• 为解决全局特征选择在识别仅在特征空间特定条件下相关的特征方面的局限性。
• 开发一种统计框架，用于条件特征选择，确保在局部区域中具有严格的错误发现率（FDR）控制。
• 克服数据子采样和基于模型的条件化方法的缺点，这些方法会降低统计有效性与检验效能。
• 通过保持原始方法的模型无关性与统计保证，将 knockoff 过程扩展至局部设置。
• 在基因组学及其他高维场景中实现对条件显著特征的发现，其中生物通路依赖于先前存在的遗传变异。

提出的方法

• 通过在特征空间的子区域中定义局部零假设特征与局部 FDR，将 knockoff 框架扩展至条件特征选择。
• 采用对称性不变的重要性评分构造方法，使其对局部特征值具有敏感性，从而在条件化下保持统计有效性。
• 利用 i.i.d. 样本的经验测度 $\hat{\mu}_n$ 来估计特征与响应的联合分布，从而实现数据驱动的重要性评分。
• 对重要性评分施加 $r$-局部性约束，以确保交换操作能保持 FDR 控制所必需的分布对称性。
• 利用由重要性评分对称性导出的符号翻转性质，为每个局部区域构建自适应阈值 $\tau^l$。
• 采用分区策略识别特征重要性可能不同的独立局部区域，从而提升各子区域的检测效能。

实验结果

研究问题

• RQ1 我们能否在条件特征选择设置中定义有意义的局部零假设特征与局部 FDR 概念？
• RQ2 当应用于局部、区域特异的特征选择时，knockoff 框架是否仍能保持其 FDR 控制保证？
• RQ3 如何在不依赖强参数假设或数据子采样的前提下，确保条件特征选择的统计有效性？
• RQ4 我们能否构建对局部特征值敏感的重要性评分，同时保持 FDR 控制所必需的对称性？
• RQ5 局部特征空间的分区对条件特征发现的统计效能与准确性有何影响？

主要发现

• 所提出的方法即使在条件化于特征空间特定区域时，也能实现有效的局部 FDR 控制，且不削弱原始 knockoff 方法的统计保证。
• 通过使用完整数据集建模特征分布 $P^\boldsymbol{X}$，该方法在局部 FDR 控制水平上与全局 knockoff 选择保持一致。
• 理论分析表明，在重要性评分满足 $r$-局部性条件下，对称性不变性质成立，从而可构建具有保证 FDR 控制的自适应阈值。
• 该方法能够检测到条件相关的特征——例如，仅在其他变异存在时才影响疾病风险的 SNP——从而揭示具有生物学意义的相互作用。
• 实证验证表明，该算法显著提升了检测全局特征选择可能遗漏的局部特征的能力，尤其在基因组学场景中表现突出。
• 该方法避免了数据子采样的缺陷，如样本量减少与无效的 p 值假设，同时仍能实现区域特异的推断。