[논문 리뷰] The Terminating-Random Experiments Selector: Fast High-Dimensional Variable Selection with False Discovery Rate Control

Jasin Machkour, Michael Muma외 1명|TUbilio (Technical University of Darmstadt)|2021. 10. 12.

Advanced Statistical Process Monitoring인용 수 5

한 줄 요약

T-Rex 선택기(T-Rex selector)는 원본 및 가짜 예측변수를 사용해 여러 개의 조기 종료된 무작위 실험 결과를 융합함으로써 가역적이고 빠른 고차원 변수 선택 방법이며, 거짓 발견률(FDR)을 제어한다. 이 방법은 선형 계산 복잡도를 가지며, 유한 표본에서 FDR 제어를 보장하며, 기존 최고 수준의 방법들보다 FDR 제어 성능과 속도 면에서 뛰어나, 대규모 GWAS 시뮬레이션에서 모델-X 노크오프보다 180배 이상 빠르며 높은 검정력(power)을 유지한다.

ABSTRACT

We propose the Terminating-Random Experiments (T-Rex) selector, a fast variable selection method for high-dimensional data. The T-Rex selector controls a user-defined target false discovery rate (FDR) while maximizing the number of selected variables. This is achieved by fusing the solutions of multiple early terminated random experiments. The experiments are conducted on a combination of the original predictors and multiple sets of randomly generated dummy predictors. A finite sample proof based on martingale theory for the FDR control property is provided. Numerical simulations confirm that the FDR is controlled at the target level while allowing for high power. We prove that the dummies can be sampled from any univariate probability distribution with finite expectation and variance. The computational complexity of the proposed method is linear in the number of variables. The T-Rex selector outperforms state-of-the-art methods for FDR control in numerical experiments and on a simulated genome-wide association study (GWAS), while its sequential computation time is more than two orders of magnitude lower than that of the strongest benchmark methods. The open source R package TRexSelector containing the implementation of the T-Rex selector is available on CRAN.

연구 동기 및 목표

• 고차원 변수 선택에서 거짓 발견률(FDR)을 제어하는 데 도전하는 문제를 해결하기 위해, 특히 전장 연관 연구(GWAS)와 같은 대규모 유전체학적 응용 분야에서 FDR 제어를 달성하는 것.
• 기존 FDR 제어 방법들인 모델-X 노크오프와 같이 계산 비용이 막대한 데 비해, 수백만 개의 변수로도 스케일링 가능한 계산 효율성이 뛰어난 방법을 개발하는 것.
• FDR 제어와 통계적 검정력 사이의 균형을 유지함으로써 고차원 환경에서 실용적이고 재현 가능한 발견을 가능하게 하는 것.
• 노크오프 방법과 달리 예측변수의 전체 공분산 구조를 모방할 필요가 없는, 엄밀히 증명 가능한 FDR 제어 프레임워크를 제공하는 것.

제안 방법

• T-Rex 선택기는 원본 예측변수와 L개의 무작위로 생성된 가짜 예측변수 간의 경쟁을 통해 전진 선택 과정을 거치는 K회의 조기 종료된 무작위 실험을 수행한다.
• 캘리브레이션 알고리즘을 사용하여 FDR 제어를 목표 수준에서 확보하기 위해 최적의 가짜 변수 수(L), 종료 임계값(T), 융합 단계의 투표 임계값을 결정한다.
• 이 방법은 마틴갈 이론을 활용하여 유한 표본에서 FDR 제어를 보장하는 증명을 제공하며, 이는 저차원(p ≤ n) 및 고차원(p > n) 설정 모두에 유효하다.
• 가짜 예측변수는 유한한 평균과 분산을 가지는 임의의 단변량 분포에서 샘플링되며, 원본 예측변수의 공분산 구조를 일치시킬 필요가 없어진다.
• 최종 선택은 K회의 실험에 걸쳐 투표 메커니즘을 통해 이루어지며, 충분한 수의 시험에서 선택된 변수들이 유지된다.
• 이 방법은 CRAN에 공개된 R 패키지 TRexSelector로 구현되어 있으며, 병렬 실행을 지원하여 추가적인 속도 향상을 가능하게 한다.

실험 결과

연구 질문

• RQ1 가짜 변수의 공분산 구조를 일치시킬 필요 없이, 단순한 가짜 변수를 사용하는 조기 종료된 무작위 실험을 통해 고차원 설정에서 엄밀한 유한 표본 FDR 제어를 달성할 수 있는가?
• RQ2 대규모 변수 선택에서 FDR 제어를 유지하면서도 통계적 검정력과 계산 비용을 최소화할 수 있는가?
• RQ3 약한 상관관계를 가지는 예측변수(예: AR(1) 과정)를 포함한 다양한 의존성 구조에서도 FDR 제어를 유지할 수 있는 확장 가능한 프레임워크를 설계할 수 있는가?
• RQ4 간단한 가짜 변수를 사용하는 조기 종료된 무작위 실험을 통해 FDR 제어 방법의 계산 부담을 얼마나 줄일 수 있는가?
• RQ5 제안된 방법이 실제 GWAS 데이터에서 기존 최고 수준의 방법들인 모델-X 노크오프보다 FDR 제어 성능과 실행 시간 면에서 모두 뛰어나게 성능을 낼 수 있는가?

주요 결과

• T-Rex 선택기는 마틴갈 이론에 기반한 엄밀한 유한 표본 보장을 통해 목표 수준에서 FDR 제어를 달성하며, 저차원(p ≤ n) 및 고차원(p > n) 설정 모두에 유효하다.
• 가짜 변수가 유한한 평균과 분산을 가지는 임의의 단변량 분포에서 샘플링될 경우, FDR 제어가 유지되며, 공분산 일치 방법 대비 계산 오버헤드를 크게 줄였다.
• T-Rex 선택기의 계산 복잡도는 변수 수에 대해 선형이므로, 수백만 개의 예측변수로도 확장 가능하다.
• 20,000개의 SNP를 가진 시뮬레이션된 GWAS에서 T-Rex 선택기는 목표 5% 수준에서 FDR을 유지하면서도 진짜 양성률(TPR) 80%를 달성했으며, 벤치마크 방법들보다 검정력과 FDR 제어 성능 면에서 뛰어났다.
• T-Rex 선택기의 순차적 계산 시간은 20,000개 변수에서 4분이었으며, 모델-X 노크오프 방법은 12.5시간 이상 소요되어 183배 빠르게 작동했다.
• 병렬 처리가 가능한 구조를 지녀, 다중 코어 시스템에서 추가적인 속도 향상을 얻을 수 있어, 생물의학 분야의 대규모 재현 가능성 연구에 적합하다.