[논문 리뷰] Eigenvalue variance bounds for covariance matrices

Sandrine Dallaporta|arXiv (Cornell University)|2013. 09. 24.

Random Matrices and Applications참고 문헌 22인용 수 15

한 줄 요약

이 논문은 무작위 공분산 행렬(Wishart 행렬)의 개별 고유값에 대해 유한 범위의 분산 경계를 확립한다. 이는 스펙트럼의 내부와 가장자리에서 모두 성립한다. Four Moment Theorem와 국소화 결과를 이용하여, 경험적 스펙트럼 분포와 Marchenko-Pastur 법칙 사이의 기대 제곱 Wasserstein 거리가 $ C \frac{\log n}{n^2} $ 이하로 유계임을 증명한다. 여기서 $ C $ 는 순간 조건에만 의존한다. 이는 고유값 변동에 대한 비점근적 농도를 제공한다.

ABSTRACT

This work is concerned with finite range bounds on the variance of individual eigenvalues of random covariance matrices, both in the bulk and at the edge of the spectrum. In a preceding paper, the author established analogous results for Wigner matrices and stated the results for covariance matrices. They are proved in the present paper. Relying on the LUE example, which needs to be investigated first, the main bounds are extended to complex covariance matrices by means of the Tao, Vu and Wang Four Moment Theorem and recent localization results by Pillai and Yin. The case of real covariance matrices is obtained from interlacing formulas.

연구 동기 및 목표

• 무작위 공분산 행렬의 개별 고유값에 대해 스펙트럼의 내부와 가장자리에서 유한 범위의 분산 경계를 확립하는 것.
• 이전의 Wigner 행렬 결과를 공분산 행렬 설정으로 확장하여, 이전에 서술되었지만 도출되지 않은 증명을 완성하는 것.
• 압축 감지, 무선 통신 및 정량 금융과 같은 분야에서 유용한 정량적 비점근적 경계를 제공하는 것.
• Four Moment Theorem과 국소화 결과를 활용하여, 유한한 순간 조건을 만족하는 i.i.d. 원소로 이루어진 일반적인 경우에 대해, Gaussian (LUE/LOE) 경우의 경계를 전이하는 것.
• 고유값이 그 고전적 위치 $ \gamma_j^{m,n} $ 주위에서 어떻게 변동하는지 정량화하여, 점근적 Marchenko-Pastur 법칙을 초월한 농도를 보여주는 것.

제안 방법

• Tao, Vu, Wang의 Four Moment Theorem을 사용하여, Gaussian (LUE/LOE) 경우에서 일반적인 i.i.d. 원소로의 결과 확장을 위한 고유값 변동 경계를 유도한다.
• Pillai와 Yin의 최근 국소화 결과를 적용하여 경험적 고유값과 그 고전적 위치 $ \gamma_j^{m,n} $ 사이의 거리를 제어한다.
• 경험적 스펙트럼 분포 $ L_{m,n} $ 와 Marchenko-Pastur 법칙 $ \mu_{m,n} $ 사이의 이질성 측정을 위해 Wasserstein 거리 $ W_2 $ 를 사용하며, 그 제곱의 기대값을 유계로 제한한다.
• 고유값 색인 집합을 내부, 가장자리, 중간 영역으로 분해하고 각 세그먼트에 대해 서로 다른 경계를 적용한다.
• Cauchy-Schwarz 부등식과 尾 확률 추정을 사용하여 $ \mathbb{E}[(\lambda_j - \gamma_j^{m,n})^2] $ 를 제어하며, 극단적 고유값에 대해 Theorem 11의 지수 尾 확률 추정을 활용한다.
• 고전적 위치 간 간격 $ \gamma_j^{m,n} - \gamma_{j-1}^{m,n} \leq c / (n^{2/3} \min(j, n+1-j)^{1/3}) $ 를 활용하여 제곱 편차의 합을 제어한다.

실험 결과

연구 질문

• RQ1 비가우시안 무작위 공분산 행렬의 개별 고유값에 대해 유한 범위의 분산 경계는 무엇인가?
• RQ2 일반적인 순간 조건 하에서 스펙트럼의 내부와 가장자리에서 고유값 변동은 어떻게 행동하는가?
• RQ3 공분산 행렬 설정에서 고유값 통계의 보편성은 유한 샘플 크기로 어느 정도까지 확장되는가?
• RQ4 Four Moment Theorem는 유한한 네 번째 순간 조건을 만족하는 일반적인 i.i.d. 원소로의 경우에 대해 Gaussian 경우의 경계를 효과적으로 전이하는 데 사용될 수 있는가?
• RQ5 Wasserstein 거리 기준으로 경험적 스펙트럼 분포가 Marchenko-Pastur 법칙으로 수렴하는 속도는 어떠한가?

주요 결과

• 경험적 스펙트럼 분포 $ L_{m,n} $ 와 Marchenko-Pastur 법칙 $ \mu_{m,n} $ 사이의 기대 제곱 Wasserstein 거리는 $ \mathbb{E}[W_2^2(L_{m,n}, \mu_{m,n})] \leq C \frac{\log n}{n^2} $ 로 유계이며, 여기서 $ C > 0 $ 는 둘째 및 넷째 순간 유계 $ A_1 $ 과 $ A_2 $ 에만 의존한다.
• 내부 영역의 고유값에 대해, 고유값 $ \lambda_j $ 가 그 고전적 위치 $ \gamma_j^{m,n} $ 주위에서의 분산은 $ \mathbb{E}[(\lambda_j - \gamma_j^{m,n})^2] \leq C \frac{\log n}{n^2} $ 로 유계이며, $ j \in [\eta n, (1-\eta)n] $ 에 대해 균일하게 성립한다.
• 가장자리 고유값에 대해선 경계 $ \mathbb{E}[(\lambda_j - \gamma_j^{m,n})^2] \leq C \frac{\log n}{n^{4/3}} $ 가 성립하며, 가장자리 행동으로 인해 더 느린 감쇠 속도를 보인다.
• 고전적 위치 간 간격은 $ \gamma_j^{m,n} - \gamma_{j-1}^{m,n} \leq \frac{c}{n^{2/3} \min(j, n+1-j)^{1/3}} $ 를 만족하며, 이는 제곱 편차의 합을 제어한다.
• 극단적 고유값은 가장자리 근처에 위치하며, 尾 확률 $ \mathbb{P}(|\lambda_j - \gamma_j^{m,n}| \geq \frac{1}{\sqrt{n}}) \leq C e^{-(\log n)^{c \log \log n}} $ 는 다항식보다 빠르게 감소하여 강한 농도를 보장한다.
• 최종적으로, 색인에 대한 합을 분해하고 내부, 중간, 가장자리 영역에 대해 서로 다른 경계를 적용함으로써, $ \mathbb{E}[W_2^2(L_{m,n}, \mu_{m,n})] \leq C \frac{\log n}{n^2} $ 를 확립한다.