[논문 리뷰] Asymptotics of eigenstructure of sample correlation matrices for high-dimensional spiked models

David Morales‐Jiménez, Iain M. Johnstone외 2명|arXiv (Cornell University)|2018. 10. 24.

Random Matrices and Applications참고 문헌 36인용 수 10

한 줄 요약

이 논문은 인구 고유값 중 일부가 나머지보다 현저히 큰 고차원 스파iked 모델에서 표본 상관계수 행렬의 고유값과 고유벡터의 일阶 점근적 행동과 극한 분포를 유도한다. 랜덤 행렬 이론을 사용하여, 첫째로 고유값 행동은 표본 공분산 행렬과 일치하지만, 상관계수 기반 추정에서 고유값과 고유벡터의 점근적 변동은 공분산 기반 추정보다 상당히 작음을 보여주며, 이는 고차원 환경에서의 핵심적인 분포적 차이를 드러낸다.

ABSTRACT

Sample correlation matrices are employed ubiquitously in statistics. However, quite surprisingly, little is known about their asymptotic spectral properties for high-dimensional data, particularly beyond the case of "null models" for which the data is assumed independent. Here, considering the popular class of spiked models, we apply random matrix theory to derive asymptotic first-order and distributional results for both the leading eigenvalues and eigenvectors of sample correlation matrices. These results are obtained under high-dimensional settings for which the number of samples n and variables p approach infinity, with p/n tending to a constant. To first order, the spectral properties of sample correlation matrices are seen to coincide with those of sample covariance matrices; however their asymptotic distributions can differ significantly, with fluctuations of both the sample eigenvalues and eigenvectors often being remarkably smaller than those of their sample covariance counterparts.

연구 동기 및 목표

• 널리 알려진 귀무모형을 초월하여 고차원 표본 상관계수 행렬의 점근적 스펙트럼 성질을 이해하기 위해.
• 고차원 스파iked 모델에서 고유값과 고유벡터에 대한 이론적 이해 부족 문제를 해결하기 위해.
• 표본 상관계수 행렬의 주요 고유값과 고유벡터에 대한 일阶 점근적 결과와 극한 분포를 수립하기 위해.
• 동일한 고차원 환경에서 표본 상관계수 행렬과 표본 공분산 행렬의 점근적 변동을 비교하기 위해.
• 고차원에서 상관계수 행렬을 사용할 때 주성분 분석 및 관련 방법의 통계적 추론을 위한 엄밀한 기초를 제공하기 위해.

제안 방법

• 비율 $ p/n \to \gamma \in (0, \infty) $ 인 고차원 스파iked 모델에 랜덤 행렬 이론을 적용한다.
• 상관계수 행렬의 스펙트럼 분석을 통해 표본 고유값과 고유벡터의 점근적 일阶 행동을 도출한다.
• 스케일 조정된 고유값 과정과 그 수렴성을 분석하여 고유값과 고유벡터의 극한 분포를 수립한다.
• 조건부 확률과 모멘트 기준을 사용하여 고유값 및 고유벡터 변동과 관련된 확률 과정의 타이트함을 증명한다.
• 고유값 편향 경계와 슈어 보조행렬 분해를 활용하여 상관계수 행렬의 고유값을 변형된 커널 행렬의 고유값과 연결한다.
• 이전 연구들(예: Bai와 Silverstein, Gao 등)의 결과를 활용하고, 조건부화 및 농도 기반 추론을 통해 이를 상관계수 설정에 적응시킨다.

실험 결과

연구 질문

• RQ1 고차원 스파iked 모델에서 표본 상관계수 행렬의 고유값과 고유벡터의 점근적 분포는 표본 공분산 행렬과 어떻게 다를까?
• RQ2 $ p/n \to \gamma > 0 $ 일 때, 표본 상관계수 행렬의 주요 고유값과 고유벡터의 일阶 점근적 행동은 무엇인가?
• RQ3 표본 상관계수 행렬에서 고유값과 고유벡터의 변동은 공분산 행렬의 경우에 비해 어느 정도 감소하는가?
• RQ4 스파iked 모델 가정 하에 표본 상관계수 행렬의 최대 고유값의 극한 분포는 어떻게 특징지을 수 있는가?
• RQ5 인구 고유벡터의 구조는 상관계수 행렬 설정에서 표본 고유벡터의 점근적 행동에 어떻게 영향을 미치는가?

주요 결과

• 동일한 스파iked 모델 하에서, 표본 상관계수 행렬의 고유값과 고유벡터의 일阶 점근적 행동은 표본 공분산 행렬과 일치한다.
• 표본 상관계수 행렬에서 고유값과 고유벡터의 점근적 변동은 공분산 행렬의 경우보다 상당히 작으며, 이는 분산 감소 효과를 시사한다.
• 표본 상관계수 행렬의 최대 고유값의 극한 분포는 트레이시-위드먼 법칙이 아니며, 공분산의 경우와 달리 변동이 감소했기 때문이다.
• 표본 고유벡터와 인구 고유벡터의 투영은 분포 수렴을 보이지만, 상관계수 기반 추정에서는 더 작은 점근적 분산을 가진다.
• 표본 상관계수 행렬의 선형 스펙트럼 통계의 점근적 분포는 중심극한정리로 특징지을 수 있지만, 공분산의 경우와는 다른 극한 분산을 가진다.
• 고유값 편향 경계와 슈어 보조행렬 분해는 고차원 환경에서 표본 고유값 추정치의 일致성을 확립하는 데 핵심 도구이다.