[논문 리뷰] A Power and Prediction Analysis for Knockoffs with Lasso Statistics

Asaf Weinstein, Rina Foygel Barber외 1명|arXiv (Cornell University)|2017. 12. 18.

Statistical Methods in Clinical Trials참고 문헌 12인용 수 26

한 줄 요약

이 논문은 i.i.d. 가우시안 설계 하에서 라소 통계를 사용한 노크오프 방법의 검정력과 예측 성능을 분석한다. 신호의 희박성이나 분포에 대한 사전 지식이 없음에도 불구하고, 노크오프 절차가 점점 최적에 가까운 검정력과 오라클 라소가 계수 분포를 완전히 알고 있을 때와 유사한 예측 오차를 점점 근접함을 보여준다.

ABSTRACT

Knockoffs is a new framework for controlling the false discovery rate (FDR) in multiple hypothesis testing problems involving complex statistical models. While there has been great emphasis on Type-I error control, Type-II errors have been far less studied. In this paper we analyze the false negative rate or, equivalently, the power of a knockoff procedure associated with the Lasso solution path under an i.i.d. Gaussian design, and find that knockoffs asymptotically achieve close to optimal power with respect to an omniscient oracle. Furthermore, we demonstrate that for sparse signals, performing model selection via knockoff filtering achieves nearly ideal prediction errors as compared to a Lasso oracle equipped with full knowledge of the distribution of the unknown regression coefficients. The i.i.d. Gaussian design is adopted to leverage results concerning the empirical distribution of the Lasso estimates, which makes power calculation possible for both knockoff and oracle procedures.

연구 동기 및 목표

• 고차원 선형 모델에서 라소 통계를 사용한 노크오프 절차의 통계적 검정력과 예측 정확도를 조사하기 위해.
• 노크오프 방법이 유의미한 제2종 오류(거짓 음성)를 최소화하면서도 가짜 발동률(FDR)을 얼마나 잘 통제하는지 평가하기 위해.
• 실제 계수 분포를 알고 있는 이상화된 오라클 라소와의 비교를 통해 노크오프 성능을 평가하기 위해.
• 희박한 고차원 설정에서 노크오프 필터링이 거의 최적의 예측 오차를 달성할 수 있는지 평가하기 위해.

제안 방법

• n, p → ∞ 이면서 n/p → δ > 0 인 i.i.d. 가우시안 설계 하에서 라소 추정치의 점근적 분포를 기술하기 위해 근사 메시지 전달(AMP) 프레임워크를 사용한다.
• 진짜 변수와 노크오프 변수 간의 교환 가능성을 통해 FDR 제어를 가능하게 하는 인공 변수를 도입하는 노크오프 절차를 정의한다.
• Π* 또는 ε를 알지 못한 채, 라소 경로 상에서 변수가 나타나는 순서에 기반해 변수를 선택하는 수준-q 노크오프 절차를 사용한다.
• 동일한 선택 규칙을 사용하여, 정확히 q 수준의 FDR을 달성하도록 λ를 선택하는 오라클 라소와 노크오프 성능을 비교한다.
• 리emann-stieltjes 적분과 위험 및 꼬리 확률 함수의 수치 적분을 통해 FDR과 진짜 양성 비율(TPP)을 수치적으로 계산한다.
• 라소 경로의 임계값 파rameter를 결정하기 위해 α와 τ를 포함한 방정식 시스템(4)을 유도하고 해를 구한다.

실험 결과

연구 질문

• RQ1 라소 경로 선택 규칙 하에서 노크오프 절차는 최적의 통계적 검정력에 얼마나 가까이 도달하는가?
• RQ2 노크오프 필터링은 진짜 계수 분포를 알고 있는 오라클 라소와 유사한 예측 오차를 달성할 수 있는가?
• RQ3 특히 희박한 신호 설정에서, 노크오프가 통제하는 FDR과 달성하는 검정력 사이의 점근적 관계는 어떠한가?
• RQ4 희박성이나 계수 분포에 대한 사전 지식 없이도 노크오프 방법은 알려지지 않은 신호 분포에 잘 적응하는가?
• RQ5 FDR 제어 및 진짜 양성 탐지 비율 측면에서 노크오프 성능은 오라클 성능과 어떻게 비교되는가?

주요 결과

• 노크오프 절차는 점점 계수 분포를 정확히 알고 있고 정확히 목표 FDR 수준 q를 달성하도록 λ를 선택하는 오라클 라소와 거의 동일한 검정력을 달성한다.
• 희박한 신호에 대해서는 노크오프 필터링이 거의 이상적인 예측 오차를 달성하며, 계수 분포를 완전히 알고 있는 라소 오라클의 성능에 가까워진다.
• 노크오프 절차의 검정력은 Π*의 다양한 분포에 대해 강건하여, 알려지지 않은 신호 특성에 대한 뛰어난 적응성을 보여준다.
• 시뮬레이션 결과는 노크오프 방법이 ε 또는 Π*를 알지 못함에도 불구하고 관심 있는 일반적인 FDR 수준 전반에서 거의 최적의 검정력을 달성함을 확인한다.
• 그림 1의 이론적 점근적 예측은 노크오프 검정력이 오라클의 검정력과 거의 정확히 일치하며, 신호 분포에 대한 사전 지식 없이도 최소한의 손실을 보임을 보여준다.
• 노크오프 방법은 엄격한 FDR 제어를 유지하면서도 높은 통계적 검정력을 달성하여, 고차원 특징 선택에서의 실용적 유용성을 입증한다.