[논문 리뷰] A theoretical treatment of conditional independence testing under Model-X

Eugene Katsevich, Aaditya Ramdas|arXiv (Cornell University)|2020. 05. 12.

Statistical Methods and Inference참고 문헌 35인용 수 10

한 줄 요약

이 논문은 Model-X (MX) 프레임워크에서 조건부 독립성 검정을 위한 이론적 기반을 수립하며, 네이만-피어슨 보조정을 통해 최적의 검정 통계량을 유도하고, 최소한의 모멘트 가정 하에 균일한 점근적 유형 I 오류 통제를 보여준다. 또한 국소 점근 정규성 하에서의 검정력 표현을 유도하고 MX 프레임워크에서의 추정 가능성을 보장함으로써 MX를 고전적 검정 및 인과 추론과 연결한다.

ABSTRACT

For testing conditional independence (CI) of a response $Y$ and a predictor $X$ given covariates $Z$, the recently introduced model-X (MX) framework has been the subject of active methodological research, especially in the context of MX knockoffs and their successful application to genome-wide association studies. In this paper, we build a theoretical foundation for the MX CI problem, yielding quantitative explanations for empirically observed phenomena and novel insights to guide the design of MX methodology. We focus our analysis on the conditional randomization test (CRT), whose validity conditional on $Y,Z$ allows us to view it as a test of a point null hypothesis involving the conditional distribution of $X$. We use the Neyman-Pearson lemma to derive the most powerful CRT statistic against a point alternative as well as an analogous result for MX knockoffs. We define CRT-style analogs of $t$- and $F$-tests with explicit critical values, and show that they have uniform asymptotic Type-I error control under the assumption that only the first two moments of $X$ given $Z$ are known, a significant relaxation of MX. We derive expressions for the power of these tests against local semiparametric alternatives using Le Cam's local asymptotic normality theory, explicitly capturing the prediction error of the underlying learning algorithm. Finally, we pave the way for estimation in the MX setting by drawing connections to semiparametric statistics and causal inference. Thus, this work forms explicit bridges from MX to both classical statistics (testing) and modern causal inference (estimation).

연구 동기 및 목표

• Model-X (MX) 프레임워크 하에서 조건부 독립성 검정을 위한 엄밀한 이론적 프레임워크를 수립하기.
• MX 방법에서 관찰된 경험적 행동을 공식적인 통계 분석을 통해 설명하기.
• MX 방법론을 고전적 가설 검정과 반모수적 추정과의 연결을 통해 확장하기.
• X의 분포에 대한 최소한의 모델링 가정 하에서 조건부 독립성에 대한 최적의 검정 통계량을 도출하기.
• 반모수적 통계와 인과 추론과의 연결을 통해 MX 설정에서의 추정 가능성을 보장하기.

제안 방법

• 점 대안 가설 하에서 가장 강력한 조건부 랜덤화 검정(CRT) 통계량을 유도하기 위해 네이만-피어슨 보조정을 사용한다.
• X|Z의 첫 번째 및 두 번째 모멘트만 알려져 있을 때, CRT 스타일의 t-검정 및 F-검정의 근사치를 비용 함수가 명시된 임계값과 함께 구성한다.
• 국소 점근 정규성(LAN) 이론을 적용하여 국소 반모수적 대안에 대한 검정의 검정력을 도출한다.
• 예측 오차가 조건부 평균 추정기에서 발생할 경우에 대한 영향을 명시적인 검정력 표현을 통해 정량화한다.
• MX와 반모수적 통계학 간의 이론적 연결을 설정하며, 특히 추정 및 인과 추론 맥락에서의 응용을 다룬다.
• CRT 프레임워크를 노크오프 구성 설정으로 확장하여 최적의 MX 노크오프 통계량을 유도한다.

실험 결과

연구 질문

• RQ1 점 대안 가설 하에서 MX 프레임워크에서 가장 강력한 검정 통계량은 무엇인가?
• RQ2 최소한의 모멘트 가정 하에 MX 설정에서 t-검정 및 F-검정의 근사치를 어떻게 구성할 수 있으며, 유효한 임계값은 무엇인가?
• RQ3 X|Z의 일차 및 이차 모멘트만 알려져 있을 때 MX 검정의 점근적 유형 I 오류 통제 행동은 어떻게 되는가?
• RQ4 조건부 분포 추정기의 예측 오차는 MX 검정의 검정력에 어떤 영향을 미치는가?
• RQ5 MX 방법론과 고전적 반모수적 통계학 및 인과 추론 프레임워크 간의 연결 고리는 무엇인가?

주요 결과

• 점 대안 하에서 가장 강력한 CRT 통계량은 네이만-피어슨 보조정을 통해 도출되었으며, MX 검정의 이론적 기준을 제공한다.
• CRT 스타일의 t-검정 및 F-검정 근사치는 명시적인 임계값을 포함하며, X|Z에 대한 일차 및 이차 모멘트 가정만으로도 균일한 점근적 유형 I 오류 통제를 보장한다.
• 국소 반모수적 대안에 대한 MX 검정의 검정력은 레캠의 LAN 이론을 통해 도출되었으며, 조건부 평균 추정기의 예측 오차가 명시적으로 포함되어 있다.
• 유도된 검정력 표현은 X|Z의 조건부 평균 모델에서의 예측 오차가 증가할수록 검정 성능이 떨어짐을 보여준다.
• 이 논문은 MX와 반모수적 통계학 간의 이론적 연결 고리를 확립하여, 향후 MX 프레임워크 내 추정 작업에 기여할 수 있다.
• 이 프레임워크는 MX 노크오프 및 기타 MX 기반 추론 절차를 설계하기 위한 체계적인 기반을 제공하며, 보장된 통계적 성질을 갖춘다.