[论文解读] GGM knockoff filter: False Discovery Rate Control for Gaussian Graphical Models

Jinzhou Li, Marloes H. Maathuis|arXiv (Cornell University)|Aug 30, 2019

Bayesian Modeling and Causal Inference参考文献 52被引用 5

一句话总结

本文提出GGM knockoff过滤器，一种用于高斯图形模型结构学习的新型方法，可实现有限样本错误发现率（FDR）控制。通过在局部节点层面构建knockoff并结合全局阈值优化，将knockoff框架扩展至图形模型，该方法在允许灵活选择knockoff和特征统计量的同时，确保了FDR控制，经模拟和真实数据验证，采用样本分割-回收程序可保持FDR保证。

ABSTRACT

We propose a new method to learn the structure of a Gaussian graphical model with finite sample false discovery rate control. Our method builds on the knockoff framework of Barber and Candès for linear models. We extend their approach to the graphical model setting by using a local (node-based) and a global (graph-based) step: we construct knockoffs and feature statistics for each node locally, and then solve a global optimization problem to determine a threshold for each node. We then estimate the neighborhood of each node, by comparing its feature statistics to its threshold, resulting in our graph estimate. Our proposed method is very flexible, in the sense that there is freedom in the choice of knockoffs, feature statistics, and the way in which the final graph estimate is obtained. For any given data set, it is not clear a priori what choices of these hyperparameters are optimal. We therefore use a sample-splitting-recycling procedure that first uses half of the samples to select the hyperparameters, and then learns the graph using all samples, in such a way that the finite sample FDR control still holds. We compare our method to several competitors in simulations and on a real data set.

研究动机与目标

• 开发一种在有限样本下实现错误发现率（FDR）控制的高斯图形模型结构学习方法。
• 将原本专为线性模型设计的knockoff框架扩展至图形模型场景。
• 解决在高维和有限样本设置下传统方法可能不可靠时的FDR控制挑战。
• 提供一个灵活的框架，使knockoff构造、特征统计量和图估计可针对特定数据集自适应选择。
• 确保即使在使用样本分割-回收程序选择超参数时，FDR控制依然得以保持。

提出的方法

• 该方法在图的每个节点上局部构建knockoff并计算特征统计量。
• 通过建立全局优化问题，基于图的整体结构为每个节点确定一个阈值。
• 最终通过将每个节点的特征统计量与其对应阈值比较，识别出具有显著统计量的边，从而获得图估计。
• 采用样本分割-回收程序：一半数据用于选择超参数（如knockoff类型、特征统计量），全部数据用于估计，从而保持有限样本下的FDR控制。
• 该框架允许灵活选择knockoff（如固定-X或模型-X）和特征统计量，其中模型-X knockoff通过放宽充分统计量要求，提供了额外的灵活性。
• 通过筛选步骤，可将该方法扩展至高维设置，以限制节点度数，确保knockoff的可行性。

实验结果

研究问题

• RQ1 knockoff框架能否成功扩展至高斯图形模型，以实现在边选择上的有限样本FDR控制？
• RQ2 如何将局部节点层面的统计量与全局图层面的优化相结合，以确保结构学习中的FDR控制？
• RQ3 超参数选择（如knockoff类型、特征统计量）对FDR控制和统计功效的影响如何？在实践中如何优化？
• RQ4 样本分割-回收程序是否能在保持FDR控制的同时，提升有限样本下的估计功效？
• RQ5 是否可以使用模型-X knockoff将该方法扩展至离散图形模型？需要哪些理论保证？

主要发现

• 所提出的GGM knockoff过滤器在Benjamini-Hochberg定义下实现了有限样本FDR控制，确保E[|F| / (|Ê| ∨ 1)] ≤ q，其中q为预设值。
• 即使在使用样本分割-回收程序选择超参数时，该方法仍能保持FDR控制，这是其关键的实际贡献。
• 模拟和真实数据分析表明，该方法在FDR控制和统计功效方面与现有方法相比表现具有竞争力。
• 该框架允许灵活构造knockoff和特征统计量，其中模型-X knockoff通过消除对充分统计量的需求，提供了更高的灵活性。
• 理论分析表明，该方法在较弱正则性条件下仍能保持FDR控制，且可通过筛选步骤扩展至高维设置。
• 该方法对超参数选择中的模型误设具有鲁棒性，尽管统计功效可能因回收步骤中选择信息的正确性而异。