[논문 리뷰] A More Powerful Two-Sample Test in High Dimensions using Random Projection

Miles E. Lopes, Laurent Jacob외 1명|arXiv (Cornell University)|2011. 08. 11.

Statistical Methods and Inference참고 문헌 35인용 수 53

한 줄 요약

이 논문은 랜덤 프로젝션을 히트링거 $T^2$ 통계량과 융합하여 고차원 다변량 정규 데이터를 위한 새로운 이중표본 검정을 제안한다. 고차원 데이터를 먼저 낮은 차원의 부분공간으로 프로젝션한 후 히트링거 검정을 적용함으로써, $p/n \to \infty$ 또는 $p/n \to c \in (0,\infty)$일 경우 기존의 최고 성능을 자랑하는 방법들인 Bai-Saranadasa, Chen-Qin, Srivastava-Du와 비교해 더 높은 점 渐차적 검정력( asymptotic power )을 달성하며, 정확한 수준-$\alpha$ 임계값을 제공한다.

ABSTRACT

We consider the hypothesis testing problem of detecting a shift between the means of two multivariate normal distributions in the high-dimensional setting, allowing for the data dimension p to exceed the sample size n. Specifically, we propose a new test statistic for the two-sample test of means that integrates a random projection with the classical Hotelling T^2 statistic. Working under a high-dimensional framework with (p,n) tending to infinity, we first derive an asymptotic power function for our test, and then provide sufficient conditions for it to achieve greater power than other state-of-the-art tests. Using ROC curves generated from synthetic data, we demonstrate superior performance against competing tests in the parameter regimes anticipated by our theoretical results. Lastly, we illustrate an advantage of our procedure's false positive rate with comparisons on high-dimensional gene expression data involving the discrimination of different types of cancer.

연구 동기 및 목표

• 표본 수 $n$보다 차원 수 $p$가 클 경우 또는 $p \approx n$일 경우 고전적 히트링거 $T^2$의 열악한 성능를 해결하기 위해.
• $p > n$일 경우 표본 공분산 행렬 $\widehat{\Sigma}$ 가 특이성이 발생하여 표준 히트링거 검정을 무효화하는 문제를 해결하기 위해.
• 고차원 점차적 분포 조건 하에서 Bai-Saranadasa, Chen-Qin, Srivastava-Du 등의 기존 방법보다 더 높은 점 渐차적 검정력을 확보하기 위해.
• 기존 방법들이 근사치에 의존하는 것과 달리, 정확한 수준-$\alpha$ 임계값을 제공하기 위해.
• 합성 데이터와 실제 고차원 유전자 발현 데이터를 활용한 암 구분 문제에서 뛰어난 성능을 입증하기 위해.

제안 방법

• 표본 수 $n$과 차원 수 $p$ 중 작은 값을 기준으로 $k \leq \min\{n, p\}$ 인 $k$-차원 부분공간으로 $p$-차원 표본을 프로젝션하기 위해 랜덤 프로젝션 행렬 $P_k$ 를 적용한다.
• 프로젝션된 표본 평균과 프로젝션된 공분산 추정량을 사용하여 프로젝션된 $k$-차원 공간에서 히트링거 $T^2$ 검정 통계량을 계산한다.
• 고차원 설정 $(p,n) \to \infty$ 이면서 $p/n \to a \in (0,\infty)$ 또는 $p/n \to \infty$ 일 때 프로젝션된 검정의 점 渐차적 검정력 기능을 유도한다.
• 집중 불등식과 랜덤 행렬 이론을 활용하여, 프로젝션된 효과 크기 $\Delta_k^2$ 와 실제 효과 크기 $\|\delta\|_2^2$ 의 비율 $\Delta_k^2 / \|\delta\|_2^2$ 의 상한을 구한다.
• 공분산 행렬 $\Sigma$ 의 고유구조에 대한 적절한 조건 하에서, 기존 방법보다 더 높은 점 渐차적 검정력을 확보할 수 있음을 입증한다.
• 귀무가설 하에서 프로젝션된 $T^2$ 의 분포적 성질을 활용하여 정확한 수준-$\alpha$ 임계값을 확보한다.

실험 결과

연구 질문

• RQ1 랜덤 프로젝션은 $p > n$ 인 고차원 설정에서 이중표본 히트링거 $T^2$ 검정의 검정력을 향상시킬 수 있는가?
• RQ2 제안된 방법은 동일한 고차원 점차적 설정 하에서 Bai-Saranadasa, Chen-Qin, Srivastava-Du 검정보다 더 높은 점 渐차적 검정력을 확보하는가?
• RQ3 기존의 근사 기반 방법들과 달리, 제안된 검정은 정확한 수준-$\alpha$ 오류 통제를 유지할 수 있는가?
• RQ4 $p/n \to \infty$ 와 $p/n \to c \in (0,\infty)$ 의 상황에서 검정 성능는 어떻게 달라지는가?
• RQ5 고차원에서 프로젝션된 효과 크기와 원래 효과 크기 사이의 이론적 관계는 무엇인가?

주요 결과

• 제안된 검정은 $p/n \to a \in (0,\infty)$ 또는 $p/n \to \infty$ 일 조건 하에서 $\Sigma$ 의 고유값에 대한 충분한 조건이 만족될 경우, Bai-Saranadasa, Chen-Qin, Srivastava-Du 검정보다 더 높은 점 渐차적 검정력을 확보한다.
• 제안된 검정의 점 渐차적 검정력 기능은 연합한 극한 $(p,n) \to \infty$ 조건 하에서 유도되었으며, $p/n \to 1$ 일 때조차도 비영적 검정력을 유지함을 보여준다.
• 일부 매개변수 영역에서 기존 방법들에 비해 상대적 점 渐차적 효율성이 1을 초과하는 것을 입증하여 더 뛰어난 검정력을 보임을 시사한다.
• 적절한 스케일링 하에 $n \to \infty$ 일 때 비율 $\Delta_k^2 / \|\delta\|_2^2$ 는 $\frac{(1-\sqrt{a})^2}{\operatorname{tr}(\Sigma)/k}$ 와 $\frac{(1+\sqrt{a})^2}{\operatorname{tr}(\Sigma)/k}$ 사이의 한계값으로 확률적으로 수렴하며, 이는 높은 확률로 성립한다.
• 합성 데이터에서의 ROC 곡선 비교를 통해 이론적으로 예측된 매개변수 영역에서 기존 방법들보다 뛰어난 성능을 확인하였다.
• 고차원 유전자 발현 데이터에서 제안된 검정은 기존 방법들보다 더 낮은 위양성률을 유지하며 실용적 안정성을 입증하였다.