[论文解读] Semi-Penalized Inference with Direct False Discovery Rate Control in High-Dimensions

Jian Huang, Shuangge Ma+2 more|arXiv (Cornell University)|Nov 29, 2013

Statistical Methods and Inference参考文献 20被引用 4

一句话总结

本文提出SPIDR，一种用于高维线性回归的半惩罚推断方法，可直接控制变量选择中的假发现率（FDR）。通过利用SPIDR估计量的渐近正态性并结合样本分割，该方法可为所选系数提供有效的置信区间，并具备明确的误差评估，且在稀疏性条件下具备oracle性质。

ABSTRACT

We propose a new method, semi-penalized inference with direct false discovery rate control (SPIDR), for variable selection and confidence interval construction in high-dimensional linear regression. SPIDR first uses a semi-penalized approach to constructing estimators of the regression coefficients. We show that the SPIDR estimator is ideal in the sense that it equals an ideal least squares estimator with high probability under a sparsity and other suitable conditions. Consequently, the SPIDR estimator is asymptotically normal. Based on this distributional result, SPIDR determines the selection rule by directly controlling false discovery rate. This provides an explicit assessment of the selection error. This also naturally leads to confidence intervals for the selected coefficients with a proper confidence statement. We conduct simulation studies to evaluate its finite sample performance and demonstrate its application on a breast cancer gene expression data set. Our simulation studies and data example suggest that SPIDR is a useful method for high-dimensional statistical inference in practice.

研究动机与目标

• 为解决高维变量选择方法中缺乏可计算的误差评估问题。
• 开发一种在高维回归设置中可直接控制假发现率（FDR）的方法。
• 为所选回归系数构建具有恰当误差陈述的有效置信区间。
• 确保SPIDR估计量在稀疏性及适当正则性条件下达到oracle性质。
• 为高维数据（如基因表达研究）中的推断提供实用框架。

提出的方法

• SPIDR采用半惩罚方法估计回归系数，结合惩罚最小二乘法与凹惩罚（如MCP），以实现稀疏性。
• 通过样本分割将数据分为两部分：一部分用于变量选择，另一部分用于推断。
• 在稀疏性条件下，估计量被证明具有渐近正态性，从而支持有效的渐近推断。
• 通过利用估计量的分布特性来设定选择阈值，直接控制FDR。
• 基于SPIDR估计量的渐近正态性，为所选系数构建置信区间。
• 该方法在正则性条件下确保所选模型以高概率与真实支撑一致。

实验结果

研究问题

• RQ1 在稀疏性条件下，高维回归中的半惩罚估计量能否实现渐近正态性？
• RQ2 如何在不依赖重采样或多重检验校正的情况下，直接控制变量选择中的假发现率？
• RQ3 在稀疏性条件下，SPIDR估计量与理想最小二乘估计量之间有何关系？
• RQ4 在高维模型中，能否为所选系数构建具有明确误差陈述的有效置信区间？
• RQ5 该方法在有限样本中是否能保持oracle性质的同时实现直接的FDR控制？

主要发现

• 在稀疏性及正则性条件下，SPIDR估计量具有渐近正态性，支持有效推断。
• 该方法实现了oracle性质：所选模型以趋于1的概率等于真实模型。
• 通过估计量的渐近分布直接控制FDR，提供明确的误差评估。
• 基于估计量的渐近正态性，为所选系数构建的置信区间具有适当的覆盖概率。
• 模拟研究及乳腺癌基因表达数据实例表明，SPIDR在FDR控制与区间覆盖方面优于现有方法。
• 在设计矩阵与误差结构满足适当条件时，该方法在p ≫ n条件下仍保持模型选择与估计的一致性。