[논문 리뷰] Auto-Encoding Knockoff Generator for FDR Controlled Variable Selection

Ying Liu, Cheng Zheng|arXiv (Cornell University)|2018. 09. 27.

Machine Learning and Data Classification참고 문헌 8인용 수 17

한 줄 요약

이 논문은 고차원 데이터에서 FDR 제어 변수 선택을 가능하게 하기 위해 조건부 variational autoencoder(CAT-VAE)를 사용한 모델 프리(knockoff) 생성기를 제안한다. 특징 간 상관관계를 유지하는 잠재 표현을 학습함으로써, 정규 및 이진 시뮬레이션, 그리고 실제 HIV 약물 내성 데이터에서 뛰어난 검정력과 정확한 FDR 제어를 달성한다.

ABSTRACT

A new statistical procedure (Model-X \cite{candes2018}) has provided a way to identify important factors using any supervised learning method controlling for FDR. This line of research has shown great potential to expand the horizon of machine learning methods beyond the task of prediction, to serve the broader needs in scientific researches for interpretable findings. However, the lack of a practical and flexible method to generate knockoffs remains the major obstacle for wide application of Model-X procedure. This paper fills in the gap by proposing a model-free knockoff generator which approximates the correlation structure between features through latent variable representation. We demonstrate our proposed method can achieve FDR control and better power than two existing methods in various simulated settings and a real data example for finding mutations associated with drug resistance in HIV-1 patients.

연구 동기 및 목표

• 모델-X 프레임워크에서 실용적이고 융통성 있는 knockoff 생성에 대한 핵심적 격차를 해소하기 위해.
• 특정한 파라미터 모델을 가정하지 않고도 어떤 데이터 유형에도 knockoff를 생성할 수 있는 모델 프리 방법을 개발하기 위해.
• 특히 조건부 VAE와 같은 딥 생성 모델을 활용하여 특징의 공동 상관관계 구조를 근사하여 knockoff 생성에 활용하기 위해.
• 생성된 knockoff가 모델-X 프레임워크에서 요구하는 교환 가능성(exchangeability) 및 조건부 독립성 조건을 만족시키기 위해.
• 기존의 고정 및 2차 모멘트 기반 knockoff 방법과 비교해 더 높은 통계적 검정력과 정확한 FDR 제어를 달성함을 입증하기 위해.

제안 방법

• 특징 $X$의 공동 분포를 모델링하고 잠재 변수 $Z$를 통해 knockoff $\tilde{X}$를 생성하기 위해 조건부 변동형 자동차오토인코더(CAT-VAE)를 제안하며, $X - \text{f}(Z)$의 최소화를 보장한다.
• 소규모 노이즈 $\epsilon$를 사용한 편향 기반 knockoff 생성 전략을 구현하여 $\tilde{X}$를 $\hat{f}(\tilde{Z})$에서 생성함으로써 교환 가능성 성질을 확보한다.
• 잠재 공간 $Z$를 활용해 $X$의 상관관계 구조를 유지함으로써, knockoff가 원래 특징의 주변 및 조건부 의존성 구조를 모방할 수 있도록 한다.
• 딥 생성 모델을 활용해 $q_\epsilon(\tilde{X} | X)$를 학습함으로써, 스왑 연산에서 $X$와 $\tilde{X}$가 교환 가능해지도록 하며, 이는 모델-X knockoff 정의를 충족시킨다.
• 특징 통계량 $W_j$가 부호 반전 성질(flip-sign property)을 가지도록 적용하여, 음성과 양성 통계량의 비율 기반 임계값 설정을 통해 FDR 제어를 가능하게 한다.
• 수정된 FDR 제어를 위한 Knockoff 절차와 표준 FDR 제어를 위한 Knockoff+ 절차를 모두 활용하며, 임계값 선택은 가짜 발견 수 대 진짜 발견 수의 비율에 기반한다.

실험 결과

연구 질문

• RQ1 딥 생성 모델을 활용해 고차원 특징의 상관관계 구조를 유지하는 모델 프리 knockoff를 구성할 수 있는가?
• RQ2 제안된 CAT-VAE 기반 knockoff 생성기가 정규 및 이진 결과를 포함한 다양한 데이터 유형에서 정확한 FDR 제어를 달성하는가?
• RQ3 다양한 신호 강도와 상관관계 조건 하에서, 제안된 방법의 검정력은 기존의 고정 및 2차 모멘트 기반 knockoff 생성기와 비교해 어떻게 다른가?
• RQ4 이 방법은 HIV-1 약물 내성 돌연변이를 식별하는 등 실제 생물학적 데이터에 효과적으로 적용될 수 있는가? 선택 결과는 재현 가능하고 신뢰할 수 있는가?
• RQ5 VAE의 잠재 표현이 파라미터 모델 대비 knockoff 생성의 품질과 통계적 타당성을 얼마나 향상시키는가?

주요 결과

• 정규 시뮬레이션에서 강한 신호($\rho = 10$)를 탐지할 때 제안된 CAT-VAE knockoff 생성기는 80%의 검정력을 달성했으며, 고정 및 2차 모멘트 방법보다 뛰어난 성능을 보였다.
• 이진 결과 시뮬레이션에서는 기존 방법 대비 두 배 이상의 검정력을 확보하여 약한 신호 및 희박한 신호 탐지에 있어 뛰어난 민감도를 입증했다.
• 실제 HIV-1 약물 내성 데이터에서 FDR를 0.2로 제어했을 때, CAT-VAE 방법은 평균적으로 진짜 신호 돌연변이(TSM)의 75.3%를 선택했으며, 이는 높은 재현성과 정확성을 의미한다.
• 더 덜 보수적인 Knockoff 절차를 사용했을 때, CAT-VAE 방법은 다른 방법들보다 더 많은 돌연변이를 선택했으며, FDR 제어를 유지하면서 Knockoff 대 Knockoff+ 선택에 대한 민감도도 낮게 유지했다.
• 시험한 7종의 약물 전역에서 뛰어난 성능을 보였으며, 여러 경우에서 가장 많은 TSM을 선택했다 (예: RTV의 경우 38/48, SQV의 경우 39/52, Knockoff+ 사용 시).
• 이론적 분석을 통해 $X - \hat{f}(Z)$와 $\tilde{X} - \hat{f}(\tilde{Z})$의 밀도가 유사할 경우 FDR 제어가 유지됨을 확인하였으며, 이는 편향 기반 생성 전략의 타당성을 뒷받침한다.