[논문 리뷰] GGM knockoff filter: False Discovery Rate Control for Gaussian Graphical Models

Jinzhou Li, Marloes H. Maathuis|arXiv (Cornell University)|2019. 08. 30.

Bayesian Modeling and Causal Inference참고 문헌 52인용 수 5

한 줄 요약

이 논문은 유한 표본에서의 거짓 발견률(FDR) 제어를 보장하는 가우시안 그래픽 모델에서의 구조 학습을 위한 새로운 방법인 GGM 노크오프 필터를 제안한다. 국소적 노드별로 노크오프를 구성하고 전역적 임계값 최적화를 통해 노크오프 프레임워크를 그래픽 모델에 확장함으로써, 유연한 노크오프 및 특징 통계량 선택이 가능하면서도 FDR 제어를 유지한다. 시뮬레이션과 실제 데이터 분석을 통해 표본 분할-재사용 절차를 통해 FDR 보장을 유지함을 검증하였다.

ABSTRACT

We propose a new method to learn the structure of a Gaussian graphical model with finite sample false discovery rate control. Our method builds on the knockoff framework of Barber and Candès for linear models. We extend their approach to the graphical model setting by using a local (node-based) and a global (graph-based) step: we construct knockoffs and feature statistics for each node locally, and then solve a global optimization problem to determine a threshold for each node. We then estimate the neighborhood of each node, by comparing its feature statistics to its threshold, resulting in our graph estimate. Our proposed method is very flexible, in the sense that there is freedom in the choice of knockoffs, feature statistics, and the way in which the final graph estimate is obtained. For any given data set, it is not clear a priori what choices of these hyperparameters are optimal. We therefore use a sample-splitting-recycling procedure that first uses half of the samples to select the hyperparameters, and then learns the graph using all samples, in such a way that the finite sample FDR control still holds. We compare our method to several competitors in simulations and on a real data set.

연구 동기 및 목표

• 유한 표본에서의 거짓 발견률(FDR) 제어를 갖는 가우시안 그래픽 모델의 구조 학습 방법을 개발하기 위해.
• 원래 선형 모델을 위해 설계된 노크오프 프레임워크를 그래픽 모델 설정으로 확장하기 위해.
• 기존 방법이 신뢰성 부족을 보일 수 있는 고차원 및 유한 표본 설정에서의 FDR 제어 문제를 해결하기 위해.
• 주어진 데이터셋에 대해 노크오프 구성, 특징 통계량, 그래프 추정을 적응적으로 선택할 수 있는 민첩한 프레임워크를 제공하기 위해.
• 초기 설정값을 표본 분할-재사용 절차로 선택하더라도 FDR 제어가 유지됨을 보장하기 위해.

제안 방법

• 해당 방법은 그래프의 각 노드에 대해 국소적으로 노크오프를 구성하고 특징 통계량을 계산한다.
• 그래프의 공동 구조를 바탕으로 각 노드에 대한 임계값을 결정하기 위해 전역 최적화 문제를 설정한다.
• 최종 그래프 추정치는 각 노드의 특징 통계량을 해당 임계값과 비교하여 도출되며, 유의미한 통계량을 가진 엣지가 식별된다.
• 표본 분할-재사용 절차를 사용한다: 반은 초기 설정값(예: 노크오프 유형, 특징 통계량) 선택에 사용되고, 전체 데이터셋은 추정에 사용되어 유한 표본 FDR 제어를 유지한다.
• 노크오프(예: 고정-X 또는 모델-X)와 특징 통계량의 선택에 대한 유연성을 제공하며, 모델-X 노크오프는 충분 통계량 요구 조건을 완화함으로써 추가적인 자유도를 제공한다.
• 노드의 차수를 제한함으로써 노크오프의 가능성을 보장하는 필터링 단계를 통해 고차원 설정으로의 확장이 가능하다.

실험 결과

연구 질문

• RQ1 노크오프 프레임워크는 가우시안 그래픽 모델로 성공적으로 확장되어 엣지 선택에 대해 유한 표본 FDR 제어를 달성할 수 있는가?
• RQ2 국소적 노드별 통계량과 전역 그래프 수준 최적화를 어떻게 조합하여 구조 학습에서 FDR 제어를 확보할 수 있는가?
• RQ3 초기 설정값 선택(예: 노크오프 유형, 특징 통계량)이 FDR 제어와 검정력에 미치는 영향은 무엇이며, 실무에서 어떻게 최적화할 수 있는가?
• RQ4 표본 분할-재사용 절차는 어떻게 하면 유한 표본에서 FDR 제어를 유지하면서 추정력 향상을 이룰 수 있는가?
• RQ5 모델-X 노크오프를 사용하여 이 방법을 이산 그래픽 모델로 확장할 수 있으며, 이 경우 필요한 이론적 보장은 무엇인가?

주요 결과

• 제안된 GGM 노크오프 필터는 벤자민-호크베르그 정의에 따라 유한 표본 FDR 제어를 달성하며, 사전 설정된 q에 대해 E[|F| / (|Ê| ∨ 1)] ≤ q 를 보장한다.
• 표본 분할-재사용 절차를 통해 초깃값을 선택하더라도 FDR 제어가 유지되며, 이는 실용적 기여의 핵심이다.
• 시뮬레이션과 실제 데이터 분석 결과, FDR 제어 및 검정력 측면에서 기존의 경쟁 방법들과 경쟁 가능한 성능을 보였다.
• 노크오프 및 특징 통계량의 유연한 구성이 가능하며, 모델-X 노크오프는 충분 통계량이 필요 없어 추가적인 자유도를 제공한다.
• 이론적 분석 결과, FDR 제어가 약한 정규성 조건 하에서도 유지되며, 필터링을 통한 스크리닝을 통해 고차원 설정으로의 확장이 가능하다.
• 초기 설정값 선택에서 모델 오Specification에 대해 강건하며, 재사용 단계에서 선택된 정보의 정확성에 따라 검정력은 변동할 수 있다.