[논문 리뷰] Conditional Independence Testing using Generative Adversarial Networks

Alexis Bellot, Mihaela van der Schaar|arXiv (Cornell University)|2019. 07. 09.

Machine Learning and Algorithms참고 문헌 29인용 수 22

한 줄 요약

이 논문은 생성적 적대적 네트워크(GANs)를 사용하여 조건부 통계적 독립성의 귀무가설을 모델링하는 새로운 조건부 독립성 검정을 제안한다. 이는 고차원 데이터에서 높은 통계적 검정력을 확보할 수 있도록 하며, 기존 방법보다 우수한 유의수준 제어와 검정력을 확보한다. GAN을 사용해 귀무가설 하에서 데이터를 생성함으로써, 타입 I 오류를 타당하게 제어하고, 특히 고차원 설정에서 기존 방법보다 뛰어난 검정력을 확보한다. 이는 시뮬레이션 데이터와 유전자 데이터를 통해 검증되었다.

ABSTRACT

We consider the hypothesis testing problem of detecting conditional dependence, with a focus on high-dimensional feature spaces. Our contribution is a new test statistic based on samples from a generative adversarial network designed to approximate directly a conditional distribution that encodes the null hypothesis, in a manner that maximizes power (the rate of true negatives). We show that such an approach requires only that density approximation be viable in order to ensure that we control type I error (the rate of false positives); in particular, no assumptions need to be made on the form of the distributions or feature dependencies. Using synthetic simulations with high-dimensional data we demonstrate significant gains in power over competing methods. In addition, we illustrate the use of our test to discover causal markers of disease in genetic data.

연구 동기 및 목표

• 기존 방법이 허위 상관관계로 인해 통계적 검정력이 낮아지는 고차원 데이터에서의 조건부 독립성 검정 문제를 해결한다.
• 기본 분포나 의존성 구조에 대한 비모수적 가정이 없이도 타입 I 오류를 타당하게 제어하는 검정법을 개발한다.
• 조건부 독립성의 귀무가설 하에서 생성 모델링을 활용해 고차원 설정에서의 통계적 검정력을 향상시킨다.
• 유전자 마커와 약물 반응 간 관계와 같은 복잡한 고차원 생물학적 데이터에서 강력한 원인관계 탐색을 가능하게 한다.

제안 방법

• 귀무가설 $\mathcal{H}_0: X \perp\!\!\perp Y|Z $ 하에서의 결합분포를 모델링하기 위해 조건부 GAN을 학습시어, $Z$가 주어진 조건에서 $X$와 $Y$가 조건부 독립이 되는 샘플을 생성한다.
• 생성된 샘플을 사용해 귀무가설 하에서 $X$-$Y$ 의존성 측정 통계량의 근사적 귀무분포를 경험적으로 추정한다.
• 실제 데이터와 생성된 데이터에서의 $X$와 $Y$ 간 의존성에 기반한 통계량을 정의하며, 이는 실재 대 생성 데이터를 구분하는 데 사용된 디스크림이너를 활용한다.
• 밀도 근사 정확도와 검정력 사이의 균형을 확보하기 위해 하이퍼파rameter $\lambda$ 를 사용해 GAN을 최적화한다. 이는 타입 I 오류 제어를 보장한다.
• 수치적 적분을 통해 귀무가설 하에서 통계량의 분포에 하한을 계산하여 검정의 타당성을 검증한다.
• 실제 데이터에서 관측된 통계량을 생성된 샘플에서의 경험적 귀무분포와 비교하여 $p$-값을 계산하고, $\mathcal{H}_0$ 에 대한 결정을 내린다.

실험 결과

연구 질문

• RQ1 특정 비모수적 형태의 결합분포를 가정하지 않고도 GAN 기반 접근이 조건부 독립성 검정에서 타당한 타입 I 오류 제어를 달성할 수 있는가?
• RQ2 기존의 커널 기반 및 순열 기반 검정이 실패하는 고차원 설정에서 제안된 방법이 높은 통계적 검정력을 유지하는가?
• RQ3 밀도 근사 정확도와 검정력 사이의 트레이드오프가 GAN 기반 검정의 성능에 어떤 영향을 미치는가?
• RQ4 실제 유전자 데이터에서 돌연변이와 약물 반응 간의 비선형 고차원 의존성을 효과적으로 식별할 수 있는가?
• RQ5 기존의 커널 기반 검정, 순열 검정, 엘라스틱넷 회귀와 비교했을 때 GAN 기반 검정은 유전자 마커의 원인관계를 어떻게 더 잘 식별하는가?

주요 결과

• 제안된 GAN 기반 조건부 독립성 검정(GCIT)은 고차원 설정에서 비모수적 가정 없이도 유한 표본에서도 타당한 타입 I 오류 제어를 달성한다.
• 시뮬레이션 결과에서 GCIT는 경쟁 방법 대비 뚜렷한 검정력 향상을 보였으며, 특히 차원 수가 증가할수록 조건부 의존성을 더 잘 탐지하였다.
• CCLE 데이터셋에서의 실제 유전자 데이터 분석에서 GCIT는 PIP5K1A와 MAP3K5와 같은 생물학적으로 의미 있는 마커들이 약물 반응과 조건부 의존성이 있음을 식별하였으며, 이는 이전 생물학적 증거와 일치하였다.
• FLT3 유전자에 대해서는 GCIT가 조건부 의존성이 없음을 정확히 식별하였으며, 이는 후속 유전자 연구를 통해 확인되었으며, 거짓 양성 결과를 방지하는 데서의 신뢰성을 입증하였다.
• 비선형 의존성을 탐지하는 데서 GCIT는 엘라스틱넷 회귀 및 랜덤 포레스트 기반 중요도 점수보다 뛰어난 성능을 보였으며, 이는 복잡한 관계를 보다 효과적으로 포착할 수 있음을 시사한다.
• GAN 학습 품질과 검정력 사이의 트레이드오프는 실험적으로 검증되었으며, 높은 $\lambda$ 값은 검정력을 향상시키지만 약간의 타입 I 오류 제어 저하를 초래했으며, 그 트레이드오프는 그림 3에서 명확히 관찰되었다.