[논문 리뷰] Panning for Gold: Model-X Knockoffs for High-dimensional Controlled Variable Selection

Emmanuel J. Candès, Yingying Fan외 2명|arXiv (Cornell University)|2016. 10. 07.

Statistical Methods and Inference참고 문헌 40인용 수 42

한 줄 요약

이 논문은 알려진 공변량 분포를 바탕으로 확률적으로 구성된 가짜 컨트롤 변수를 사용하여, 비선형 및 일반화선형 모형에서 조건부 응답 분포가 복잡하거나 $ n < p $ 인 경우에도 가짜 발현률(FDR)을 제어하는 새로운 프레임워크인 Model-X 컨트롤 변수를 소개한다. 이 방법은 타당한 유한표본 추론을 가능하게 하며, 시뮬레이션과 실제 유전체 연관 연구(GWAS) 데이터에서 기존 방법들을 능가하여 원래 연구보다 두 배 이상의 유의미한 SNP를 식별한다.

ABSTRACT

Many contemporary large-scale applications involve building interpretable models linking a large set of potential covariates to a response in a nonlinear fashion, such as when the response is binary. Although this modeling problem has been extensively studied, it remains unclear how to effectively control the fraction of false discoveries even in high-dimensional logistic regression, not to mention general high-dimensional nonlinear models. To address such a practical problem, we propose a new framework of $model$-$X$ knockoffs, which reads from a different perspective the knockoff procedure (Barber and Candès, 2015) originally designed for controlling the false discovery rate in linear models. Whereas the knockoffs procedure is constrained to homoscedastic linear models with $n\ge p$, the key innovation here is that model-X knockoffs provide valid inference from finite samples in settings in which the conditional distribution of the response is arbitrary and completely unknown. Furthermore, this holds no matter the number of covariates. Correct inference in such a broad setting is achieved by constructing knockoff variables probabilistically instead of geometrically. To do this, our approach requires the covariates be random (independent and identically distributed rows) with a distribution that is known, although we provide preliminary experimental evidence that our procedure is robust to unknown/estimated distributions. To our knowledge, no other procedure solves the $controlled$ variable selection problem in such generality, but in the restricted settings where competitors exist, we demonstrate the superior power of knockoffs through simulations. Finally, we apply our procedure to data from a case-control study of Crohn's disease in the United Kingdom, making twice as many discoveries as the original analysis of the same data.

연구 동기 및 목표

• 기존 방법이 실패하는 고차원 비선형 모형(예: 로지스틱 회귀)에서 가짜 발현률(FDR)을 제어할 수 있는 방법의 부재를 해결하기 위해.
• 공변량 수나 조건부 응답 분포의 복잡성에 관계없이 변수 선택에 대한 타당한 유한표본 추론을 제공하는 프레임워크를 개발하기 위해.
• 기존의 $ n \geq p $ 조건을 만족하는 동질분산 선형 모형에 국한된 컨트롤 변수 절차를 초월하여, $ Y \mid X $의 임의의 조건부 분포로 적용 가능한 프레임워크로 확장하기 위해.
• 유전체 연관 연구(GWAS)와 같은 실제 데이터를 포함한 시뮬레이션과 실증 분석을 통해 기존 방법들과 비교해 본 결과, 본 방법이 유의미한 강력성과 강인성을 보임을 입증하기 위해.

제안 방법

• 공변량 $ X $ 의 알려진 결합분포를 바탕으로 기하학적 방식이 아닌 확률적 방식으로 컨트롤 변수 $ \tilde{X} $ 를 구성하여, $ X_j $ 와 $ \tilde{X}_j $ 간의 교환 가능성(exchangeability)을 보장한다.
• 공변량 $ X $ 의 결합분포를 이용해 $ (X, \tilde{X}) $ 가 교환성 성질을 만족하도록 컨트롤 변수를 생성한다: 임의의 변수 인덱스 순열 $ \pi $ 에 대해 $ (X, \tilde{X}) \stackrel{d}{=} (X_{\pi}, \tilde{X}_{\pi}) $.
• 예를 들어 라소 유형 모형에서 $ X_j $ 와 $ \tilde{X}_j $ 의 계수 추정치의 절대 차이를 측정하는 통계량 $ W_j $ 와 같은 테스트 통계량을 정의하여 변수 중요도를 측정한다.
• 컨트롤 변수 필터를 적용한다: $ H_0: X_j \text{ 는 비활성이다} $ 를 기각할 경우 $ W_j > t $ 를 만족하며, 이때 $ t $ 는 사전 설정된 수준 $ q $ 에서 FDR를 제어하도록 선택된다.
• 모형 기반 추론의 대안으로 조건부 랜덤화 테스팅을 활용하여, 모형이 잘못 지정된 경우에도 FDR 제어를 가능하게 한다.
• 중요도 샘플링과 효율적인 계산 재사용 기법을 활용해 조건부 랜덤화 테스팅의 속도를 향상시켜, 대규모 문제에 대한 계산 비용을 감소시킨다.

실험 결과

연구 질문

• RQ1 임의의 $ Y \mid X $ 조건부 분포를 가진 고차원 비선형 모형에서 FDR 제어가 보장되는 방식으로 컨트롤 변수를 구성할 수 있는가?
• RQ2 기존의 $ n \geq p $ 조건과 선형 모형에 국한된 컨트롤 변수 프레임워크를 $ n < p $ 인 경우와 조건부 응답 모형이 알려지지 않았거나 복잡한 경우로 확장할 수 있는가?
• RQ3 실제 응용에서 공변량 분포를 추정한 경우와 알려진 경우의 차이가 FDR 제어와 통계적 검정력에 어떤 영향을 미치는가?
• RQ4 여러 개의 컨트롤 변수 행렬을 구성하거나 다른 특징 중요도 통계량을 사용함으로써 검정력을 향상시킬 수 있는가?
• RQ5 대규모 응용에 있어서 FDR 제어를 유지하면서도 조건부 랜덤화 테스팅 절차의 속도를 향상시킬 수 있는가?

주요 결과

• Model-X 컨트롤 변수 프레임워크는 공변량이 i.i.d. 이고 알려진 결합분포를 가진다는 가정 하에, 고차원 비선형 모형(예: 일반화선형 모형)에서 유한표본 FDR 제어를 달성한다. 이는 $ n < p $ 인 경우에도 성립한다.
• 시뮬레이션 결과, Model-X 컨트롤 변수는 고차원 로지스틱 회귀 및 비선형 모형에서 기존 방법보다 뛰어난 검정력을 보였다.
• UK 크로운 병 GWAS 데이터셋에 적용한 결과, 원래 분석보다 두 배 이상의 유의미한 SNP를 식별하여 실제 응용에서의 유용성을 입증했다.
• 초기 실험 결과, 공변량 분포 추정 오차에 대해 강인한 성능을 보이며, 특히 가우시안 설계에서는 실용적 적용 가능성 잠재력을 보였다.
• 기존 변수 선택 방법이 FDR 제어가 부족해 실패하는 고차원, 비선형, 또는 복잡한 조건부 모형 환경에서도 신뢰할 수 있는 추론을 가능하게 한다.
• 조건부 랜덤화 테스팅은 모형에 종속되지 않는 강력한 FDR 제어 방법을 제공하지만, 계산 비용이 높기 때문에 향후 알고리즘 최적화가 필요하다.