[논문 리뷰] Semi-Penalized Inference with Direct False Discovery Rate Control in High-Dimensions

Jian Huang, Shuangge Ma외 2명|arXiv (Cornell University)|2013. 11. 29.

Statistical Methods and Inference참고 문헌 20인용 수 4

한 줄 요약

이 논문은 고차원 선형 회귀에서 변수 선택 시 잘못 발견률(FDR)을 직접 제어하는 반-벌점 추론 방법인 SPIDR를 제안한다. SPIDR 추정량의 渐近 정규성과 샘플 분할을 활용하여, 명시적인 오차 평가와 함께 선택된 계수에 대한 타당한 신뢰구간을 제공하며, 희박성 조건 하에서 오라클 성질을 달성한다.

ABSTRACT

We propose a new method, semi-penalized inference with direct false discovery rate control (SPIDR), for variable selection and confidence interval construction in high-dimensional linear regression. SPIDR first uses a semi-penalized approach to constructing estimators of the regression coefficients. We show that the SPIDR estimator is ideal in the sense that it equals an ideal least squares estimator with high probability under a sparsity and other suitable conditions. Consequently, the SPIDR estimator is asymptotically normal. Based on this distributional result, SPIDR determines the selection rule by directly controlling false discovery rate. This provides an explicit assessment of the selection error. This also naturally leads to confidence intervals for the selected coefficients with a proper confidence statement. We conduct simulation studies to evaluate its finite sample performance and demonstrate its application on a breast cancer gene expression data set. Our simulation studies and data example suggest that SPIDR is a useful method for high-dimensional statistical inference in practice.

연구 동기 및 목표

• 고차원 변수 선택 방법에서 계산 가능한 오차 평가의 부족을 해결하기 위해.
• 고차원 회귀 환경에서 잘못 발견률(FDR)을 직접 제어하는 방법을 개발하기 위해.
• 적절한 오차 진술과 함께 선택된 회귀 계수에 대한 타당한 신뢰구간을 구축하기 위해.
• 희박성 조건과 적절한 정규성 조건 하에서 SPIDR 추정량이 오라클 성질을 달성하도록 보장하기 위해.
• 유전자 발현 연구와 같은 고차원 데이터에서의 추론을 위한 실용적 프레임워크 제공하기 위해.

제안 방법

• SPIDR는 희박성을 달성하기 위해 벌점 최소제곱과 오목 페널티(예: MCP)를 조합한 반-벌점 접근법을 사용하여 회귀 계수를 추정한다.
• 데이터를 두 부분으로 나누어 변수 선택과 추론에 사용하기 위해 샘플 분할을 적용한다.
• 희박성 조건 하에서 추정량이 渐近 정규성을 띠며, 이는 타당한 점근적 추론을 가능하게 한다.
• 추정량의 분포적 성질을 활용하여 선택 임계치를 설정함으로써 FDR를 직접 제어한다.
• SPIDR 추정량의 점근 정규성을 이용해 선택된 계수에 대한 신뢰구간을 구축한다.
• 정규성 조건 하에서 선택된 모형이 진짜 지원(set)과 높은 확률로 일치하도록 보장한다.

실험 결과

연구 질문

• RQ1 희박성 조건 하에서 고차원 회귀에서 반-벌점 추정량이 점근 정규성을 확보할 수 있는가?
• RQ2 재표본화나 다중검정 보정에 의존하지 않고 변수 선택에서 잘못 발견률을 직접 제어할 수 있는가?
• RQ3 희박성 조건 하에서 SPIDR 추정량과 이상적인 최소제곱 추정량 간의 관계는 어떠한가?
• RQ4 고차원 모형에서 선택된 계수에 대해 명시적인 오차 진술과 함께 타당한 신뢰구간을 구성할 수 있는가?
• RQ5 유한 표본에서 직접 FDR 제어를 가능하게 하면서도 오라클 성질을 유지하는가?

주요 결과

• 희박성 조건과 정규성 조건 하에서 SPIDR 추정량은 점근 정규성을 띠며, 이는 타당한 추론을 가능하게 한다.
• 이 방법은 오라클 성질을 달성한다: 선택된 모형이 확률적으로 1로 진짜 모형과 일치한다.
• 추정량의 점근 분포를 활용하여 잘못 발견률이 직접 제어되며, 명시적인 오차 평가가 가능하다.
• 추정량의 점근 정규성을 바탕으로 선택된 계수에 대한 신뢰구간이 적절한 포함 확률을 갖도록 구성된다.
• 시뮬레이션 연구와 유방암 유전자 발현 데이터 예제에서 SPIDR는 FDR 제어와 구간 포함 성능에서 기존 방법을 능가한다.
• 설계 행렬과 오차 구조에 적절한 조건 하에서, p ≫ n 인 경우에도 모형 선택과 추정의 일관성을 유지한다.