[论文解读] False Variable Selection Rates in Regression

Max G’Sell, Trevor Hastie+1 more|arXiv (Cornell University)|Feb 10, 2013

Statistical Methods and Inference参考文献 14被引用 9

一句话总结

本文提出了一种新的变量选择误差准则——误变量率（False Variable Rate, FVR），以解决在预测变量相关时传统错误发现率（False Discovery Rate, FDR）表现出的非直观行为。FVR通过投影到所选变量上进行定义，在高维、相关设定下提供了更直观的控制方式。该准则通过模拟和理论分析验证了其在逐步回归估计器中的有效性。

ABSTRACT

There has been recent interest in extending the ideas of False Discovery Rates (FDR) to variable selection in regression settings. Traditionally the FDR in these settings has been defined in terms of the coefficients of the full regression model. Recent papers have struggled with controlling this quantity when the predictors are correlated. This paper shows that this full model definition of FDR suffers from unintuitive and potentially undesirable behavior in the presence of correlated predictors. We propose a new false selection error criterion, the False Variable Rate (FVR), that avoids these problems and behaves in a more intuitive manner. We discuss the behavior of this criterion and how it compares with the traditional FDR, as well as presenting guidelines for determining which is appropriate in a particular setting. Finally, we present a simple estimation procedure for FVR in stepwise variable selection. We analyze the performance of this estimator and draw connections to recent estimators in the literature.

研究动机与目标

• 解决在预测变量相关时，传统错误发现率（FDR）在回归中表现非直观的问题。
• 识别在预测变量相关时，基于全模型中零系数定义错误选择的局限性。
• 提出一种基于所选变量上模型投影的新误差准则——误变量率（FVR）。
• 证明FVR在高维、相关设定下能提供更直观且稳定的误差控制。
• 为逐步变量选择程序开发并分析FVR的实用估计器。

提出的方法

• 将误变量比例（FVP）定义为在所选集合 $\mathcal{A}$ 上投影模型中系数为零的所选变量的比例。
• 将误变量率（FVR）定义为FVP的期望值，替代全模型中的FDR定义。
• 提出一种基于阈值的估计器 $\hat{V}_k^{(\lambda)} = \frac{\#\{p_j > \lambda; j \leq k\}}{1 - \lambda}$，用于估计增量假设检验中真实零假设的数量。
• 使用基于自 resampling 的调参方法，通过最小化估计器与其最小期望值之间的均方偏差来选择 $\lambda$。
• 分析变量排序对FVR估计的影响，表明逐步选择路径接近理想排序，偏差最小。
• 证明：若变量排序不当，FVR估计的偏差会向下偏移；但模拟结果表明，逐步路径可产生低偏差。

实验结果

研究问题

• RQ1 为何在回归中预测变量相关时，传统FDR定义会表现出非直观行为？
• RQ2 在存在相关预测变量的情况下，如何定义一种更稳定且可解释的误差准则用于变量选择？
• RQ3 在相关设计矩阵下，所提出的FVR准则与FDR相比表现如何？
• RQ4 能否为逐步选择程序构建一个可靠且计算简单的FVR估计器？
• RQ5 FVR估计器对变量排序的敏感性如何？能否证明逐步选择可产生近似最优的排序？

主要发现

• 当预测变量相关时，全模型FDR定义会导致非直观行为，因为它无法区分冗余变量与真正零系数的变量。
• 所提出的基于投影到所选模型上的FVR准则，在相关设定下更能反映所选变量的真实显著性。
• 通过阈值p值方法估计FVR可提供真实零假设数量的下界，在合理排序假设下具有鲁棒性。
• 若变量排序不理想，估计器的偏差会向下偏移；但模拟结果表明，逐步选择产生的排序能将此偏差降至最低。
• 在假设逐步路径接近最近的理想排序且受噪声变量扰动最小的前提下，FVR估计器具有一致性。
• FVR框架为高维回归中相关预测变量的处理提供了比FDR更直观且更稳定的替代方案。