[논문 리뷰] Controlling False Discovery Rate Using Gaussian Mirrors

Xin Xing, Zhigen Zhao외 1명|arXiv (Cornell University)|2019. 11. 21.

Statistical Methods and Inference참고 문헌 36인용 수 11

한 줄 요약

이 논문은 고차원 선형 회귀에서 가짜 발제율(FDR)을 제어하기 위해 가우시안 편향을 통해 미러 변수를 생성하는 가우시안 미러(GM) 방법을 제안한다. 이 방법은 약한 의존성 가정 하에 임의의 지정된 수준에서 FDR 제어를 가능하게 하며, 특히 고상관도 및 비희박 설계에서 기존 방법들(예: 노크오프 필터)보다 뛰어난 검정력(power)을 보인다.

ABSTRACT

Simultaneously finding multiple influential variables and controlling the false discovery rate (FDR) for linear regression models is a fundamental problem. We here propose the Gaussian Mirror (GM) method, which creates for each predictor variable a pair of mirror variables by adding and subtracting a randomly generated Gaussian perturbation, and proceeds with a certain regression method, such as the ordinary least-square or the Lasso (the mirror variables can also be created after selection). The mirror variables naturally lead to test statistics effective for controlling the FDR. Under a mild assumption on the dependence among the covariates, we show that the FDR can be controlled at any designated level asymptotically. We also demonstrate through extensive numerical studies that the GM method is more powerful than many existing methods for selecting relevant variables subject to FDR control, especially for cases when the covariates are highly correlated and the influential variables are not overly sparse.

연구 동기 및 목표

• 고차원 선형 회귀에서 영향력 있는 변수를 동시에 선택하고 가짜 발제율(FDR)을 제어하는 데 도전하는 문제를 다루는 것.
• 예측 변수가 상호 높은 상관관계를 가지며 진짜 신호가 희박하지 않은 경우에도 강력한 FDR 제어를 유지할 수 있는 방법을 개발하는 것.
• 기존의 FDR 제어 방법(예: 노크오프, 모델-X 노크오프)과 비교해 계산적으로 실현 가능하고 높은 검정력을 지닌 대안을 제공하는 것.
• 신경망과 같은 비선형 모델로 이 방법을 확장하기 위해 신경 가우시안 미러(NGM) 변형을 제안하는 것.

제안 방법

• 각 예측 변수에 대해, 적절하게 선택된 스케일을 가진 평균 0인 가우시안 편향을 더하고 빼어 두 개의 미러 변수를 생성한다.
• 미러 변수에서의 회귀 계수의 부호가 다른 차이를 통계적 검정 통계량으로 사용하여 변수 중요도를 평가한다.
• 명목 수준 q에서 기대 FDP가 제한됨을 보장하는 분위수 기반 임계값을 설정하여 FDR을 제어한다.
• 영가설 하에서 미러 변수의 대칭성과 교환 가능성을 활용하여 점점 더 정확한 FDR 제어를 보장한다.
• 선형 모델과 신경망에 모두 이 방법을 적용하며, 후자의 경우 영향도 측정법을 사용해 미러 통계량을 계산한다.
• 비모수적 조건부 상호정보량 측정법을 사용해 신경망 응용에서 최적의 편향 스케일을 선정한다.

실험 결과

연구 질문

• RQ1 강력한 분포 가정이나 공변수 분포의 완전한 지식이 없이도, 단순하고 데이터 기반의 방법이 고차원 선형 회귀에서 FDR을 제어할 수 있는가?
• RQ2 고상관도 및 비희박 설계 하에서 GM 방법이 노크오프 필터 및 모델-X 노크오프와 비교해 어떻게 성능을 내는가?
• RQ3 GM 프레임워크는 신경망과 같은 비선형 모델로 일반화될 수 있으며, FDR 제어를 유지하면서도 높은 검정력을 유지할 수 있는가?
• RQ4 공변수에 대한 약한 의존성 가정 하에서 FDR 제어의 이론적 근거는 무엇인가?
• RQ5 편향 스케일의 선택이 유한 표본에서 검정력과 FDR 제어에 어떻게 영향을 미치는가?

주요 결과

• GM 방법은 공변수에 대한 약한 의존성 가정 하에 임의의 사전 설정된 수준 q에서 점점 더 정확한 FDR 제어를 보장한다.
• 고상관도 설정에서, 특히 진짜 신호가 희박하지 않은 경우 기존 방법들보다 GM 방법이 훨씬 높은 검정력을 달성한다.
• 신경망 모델에서는 NGM 변형이 명목 수준 이하(FDR ≤ q=0.1)의 FDR을 유지하며 다항 링크 함수에서 DeepPINK보다 높은 검정력을 보였다.
• p=2000이고 f3(t)=0.1t^5인 시뮬레이션에서 NGM는 53.0%의 검정력을 기록했고, DeepPINK는 5.3%로 급격히 떨어졌으며, 이는 NGM가 비선형성에 대해 뛰어난 강건성을 지닌다는 것을 보여준다.
• 공변수의 공동 분포가 알려져 있지 않은 경우에도 FDR 제어를 유지하며, 모델-X 노크오프에서 요구하는 강력한 모델링 가정에 의존하지 않는다.
• 이론적 분석을 통해 기대 FDP가 명목 수준으로 수렴하며, 약한 조건 하에서 점점 더 정확한 FDR 제어가 유지됨을 확인했다.