[논문 리뷰] Tests for High-Dimensional Covariance Matrices Using Random Matrix Projection

Tung-Lung Wu, Ping Li|arXiv (Cornell University)|2015. 11. 05.

Random Matrices and Applications인용 수 6

한 줄 요약

이 논문은 높은 차원의 공분산 행렬을 검정하기 위해 랜덤 프로젝션 기반 방법을 제안한다. 데이터를 한 차원으로 감소시켜 기존의 표준 우도 비율 검정을 사용할 수 있도록 한다. 이 방법은 일반적인 조건 하에서 점근적 정규성을 유지하며, 공분산 차이가 거의 정재성 또는 음성 정재성일 경우 기존 방법보다 뛰어난 성능을 보이지만, 공분산 차이가 거의 특이적일 경우 실패한다.

ABSTRACT

The classic likelihood ratio test for testing the equality of two covariance matrices breakdowns due to the singularity of the sample covariance matrices when the data dimension $p$ is larger than the sample size $n$. In this paper, we present a conceptually simple method using random projection to project the data onto the one-dimensional random subspace so that the conventional methods can be applied. Both one-sample and two-sample tests for high-dimensional covariance matrices are studied. Asymptotic results are established and numerical results are given to compare our method with state-of-the-art methods in the literature.

연구 동기 및 목표

• p > n 인 경우 표본 공분산 행렬이 특이적이 되어 고전적 우도 비율 검정이 붕괴하는 문제를 해결하기 위해.
• 일반적인 고차원 설정에서 일표본 및 이표본 검정을 위한 계산적으로 효율적이고 개념적으로 단순한 방법을 개발하기 위해.
• 기존 방법이 p와 n 간의 특정 관계를 요구하는 한계를 극복하기 위해, 차원을 한 차원으로 감소시키기 위해 랜덤 프로젝션을 사용하기 위해.
• p/n 비율에 제한을 두지 않고 일반 조건 하에서 검정 통계량의 점근적 정규성을 확립하기 위해.
• 광범위한 시뮬레이션을 통해 최신 기법들(CLRT 및 Li & Chen)과의 성능를 평가하기 위해.

제안 방법

• i.i.d. 표준 정규 분포를 가진 랜덤 프로젝션 벡터 R을 사용하여 고차원 데이터를 한 차원 부분공간에 투영하기 위해.
• 투영된 데이터는 스칼라 값이 되어 특이성 문제를 피할 수 있으며, 이에 따라 표준 일표본 및 이표본 우도 비율 검정을 적용하기 위해.
• 일표본 검정에 대해 T₁ = n·(tr(S) − log|S| − p)를, 이표본 검정에 대해 T₂를 투영된 데이터에 적용하기 위해.
• n과 p가 모두 큰 경우에 대해, p/n → c를 요구하지 않고 귀무가설 하에서 검정 통계량의 점근적 정규성을 도출하기 위해.
• 더 빠른 수렴과 더 나은 경험적 성능을 확보하기 위해 정규화된 랜덤 프로젝션 벡터를 사용하기 위해.
• 약한 조건 하에서 서로 다른 랜덤 프로젝션 간의 공분산 수렴 속도를 분석하기 위해.

실험 결과

연구 질문

• RQ1 고전적 방법이 실패할 때, 한 차원으로의 랜덤 프로젝션을 통해 충분한 신호를 유지하여 유효한 고차원 공분산 행렬 검정이 가능한가?
• RQ2 CLRT 및 Li & Chen 방법과 비교하여, 다양한 p와 n 구성에서 크기와 검정력 측면에서 랜덤 프로젝션 방법의 성능는 어떠한가?
• RQ3 공분산 행렬 차이에 대한 특정 조건(예: 정재성, 특이성)에서 랜덤 프로젝션 방법이 성공하거나 실패하는 조건은 무엇인가?
• RQ4 한 차원 랜덤 프로젝션을 사용할 경우, 귀무가설 하에서 검정 통계량의 점근적 분포는 무엇인가?
• RQ5 특정한 p와 n 간의 관계가 필요 없이, 이 방법이 양호한 경험적 성능을 유지하는가?

주요 결과

• 랜덤 프로젝션 방법은 p/n → ∞일 경우조차도 일반 조건 하에서 검정 통계량의 점근적 정규성을 달성하며, p/n의 고정된 극한이 필요하지 않다.
• 시뮬레이션 결과, 공분산 행렬 간의 차이가 거의 정재성 또는 음성 정재성일 경우, 이 방법은 CLRT 및 Li & Chen 방법보다 뛰어난 성능을 보이며, p=4096, n=100일 때 경험적 검정력이 0.9997에 도달한다.
• 공분산 행렬 간의 차이가 거의 특이적일 경우(예: 동일한 대각성분), 이 방법은 실패한다. 이는 평균적으로 투영된 분산 차이가 0이기 때문이다. 이는 비대각 성분 신호와는 무관하다.
• 강한 정재성 차이가 있는 경우(i)에서, p=4096, n=100일 때 이 방법은 100%의 경험적 검정력을 달성하지만, CLRT 및 Li & Chen는 낮은 검정력을 보인다.
• 정규화된 랜덤 프로젝션 벡터는 비정규화된 대안보다 점근적 정규성 수렴 속도가 더 빠르며, 경험적 크기 정확도를 향상시킨다.
• 이 방법은 계산적으로 효율적이며, 구현이 쉽고 해석이 가능하므로, 대규모 고차원 데이터 분석에 적합하다.