[论文解读] Floodgate: inference for model-free variable importance

Lu Zhang, Lucas Janson|arXiv (Cornell University)|Jul 2, 2020

Statistical Methods and Inference参考文献 74被引用 13

一句话总结

Floodgate 是一种无需模型的变量重要性推断方法，通过构建最小均方误差（mMSE）差距的渐近有效置信区间，衡量在控制混杂变量 Z 的条件下结果 Y 与协变量 X 之间的条件依赖关系。该方法可利用用户指定的任意回归函数（如机器学习模型），并根据该估计的误差自适应调整其精度，从而在无需参数假设的前提下实现稳健、可解释的推断。

ABSTRACT

Many modern applications seek to understand the relationship between an outcome variable $Y$ and a covariate $X$ in the presence of a (possibly high-dimensional) confounding variable $Z$. Although much attention has been paid to testing \emph{whether} $Y$ depends on $X$ given $Z$, in this paper we seek to go beyond testing by inferring the \emph{strength} of that dependence. We first define our estimand, the minimum mean squared error (mMSE) gap, which quantifies the conditional relationship between $Y$ and $X$ in a way that is deterministic, model-free, interpretable, and sensitive to nonlinearities and interactions. We then propose a new inferential approach called \emph{floodgate} that can leverage any working regression function chosen by the user (allowing, e.g., it to be fitted by a state-of-the-art machine learning algorithm or be derived from qualitative domain knowledge) to construct asymptotic confidence bounds, and we apply it to the mMSE gap. \acc{We additionally show that floodgate's accuracy (distance from confidence bound to estimand) is adaptive to the error of the working regression function.} We then show we can apply the same floodgate principle to a different measure of variable importance when $Y$ is binary. Finally, we demonstrate floodgate's performance in a series of simulations and apply it to data from the UK Biobank to infer the strengths of dependence of platelet count on various groups of genetic mutations.

研究动机与目标

• 开发一种无需模型、可解释且灵敏的变量重要性度量，用于量化在控制混杂变量 Z 的条件下 Y 与 X 之间的依赖强度。
• 在不假设条件均值 E[Y|X,Z] 的参数形式或光滑性条件下，为该度量提供有效的渐近置信区间。
• 确保置信区间的精度能够自适应于用户所选工作回归函数的均方误差。
• 将该框架扩展至二值结果以及 X|Z 分布仅部分已知的情形。
• 通过模拟和对英国生物样本库（UK Biobank）血小板计数遗传力数据的应用，验证该方法的有效性与性能。

提出的方法

• 将 mMSE 差距定义为无需模型、可解释的变量重要性度量，量化在给定 Z 的条件下，引入 X 后预测误差的减少程度。
• 通过保持原假设下 X|Z 分布不变的条件置换方案，构建 mMSE 差距的渐近下置信区间。
• 使用用户指定的工作回归函数 μ(X,Z) 来估计 E[Y|X,Z]，从而可整合机器学习或领域特定模型。
• 通过基于观测预测误差与原假设下重采样预测误差差异的检验统计量，推导置信区间，并在原假设下通过条件抽样进行校准。
• 在极低假设条件下确保有效性——对 E[Y|X,Z] 不需要光滑性、稀疏性或参数形式假设，并可扩展至双重稳健情形。
• 采用数据分割策略以提升稳健性，并在工作模型设定错误时仍能保持置信区间的边际有效性。

实验结果

研究问题

• RQ1 我们能否定义一种无需模型、可解释且灵敏的变量重要性度量，以捕捉在控制 Z 的条件下 Y 与 X 之间关系的非线性及交互效应？
• RQ2 如何在不假设 E[Y|X,Z] 的参数形式或光滑性条件下，为该度量构建渐近有效的置信区间？
• RQ3 置信区间的精度在多大程度上能自适应于用户提供的回归函数的质量？
• RQ4 该框架能否扩展至二值结果以及 X|Z 分布仅部分已知（如参数化模型）的情形？
• RQ5 在有限样本和真实世界应用（如高维混杂变量下的遗传关联研究）中，该方法的性能如何？

主要发现

• Floodgate 在极低假设条件下，对任意且非光滑的 E[Y|X,Z] 均能产生 mMSE 差距的渐近有效置信区间。
• 置信区间的宽度能自适应于用户工作回归函数的均方误差，当模型更准确时，区间更紧凑。
• 由于采用了数据分割和原假设下的条件置换，即使工作模型设定错误，该方法仍能保持有效性。
• 在英国生物样本库的应用中，Floodgate 在多个 SNP 组中识别出血小板计数显著的遗传力，其下置信区间揭示了此前未被发现的遗传效应。
• 与传统参数方法相比，该方法在无需事先了解交互结构的情况下，更能有效捕捉复杂非线性遗传效应。
• 对二值结果 Y 及部分已知 X|Z 分布（如多元正态分布、离散马尔可夫链）的扩展，展示了该框架的灵活性与广泛适用性。