[논문 리뷰] Asymptotics of Empirical Eigen-structure for Ultra-high Dimensional Spiked Covariance Model

Jianqing Fan, Weichen Wang|arXiv (Cornell University)|2015. 02. 16.

Statistical Methods and Inference참고 문헌 41인용 수 26

한 줄 요약

이 논문은 차원 수와 함께 증가하는 고유값 스파이크를 포함하는 초고차원 스파이크 공분산 모형에서 고유값과 고유벡터의 점근적 분포를 수립한다. 표본 크기, 차원 수, 스파이크 크기의 상호작용을 고려한 통합 점근적 영역을 도입함으로써 저자들은 편향 보정 추정량을 유도하고, 추정의 정확도를 향상시키기 위해 수축 주성분 보완 임계값 처리(S-POET) 방법을 제안한다. 이는 고차원 인자 모형과 포트폴리오 리스크 분석에 응용된다.

ABSTRACT

We derive the asymptotic distributions of the spiked eigenvalues and eigenvectors under a generalized and unified asymptotic regime, which takes into account the spike magnitude of leading eigenvalues, sample size, and dimensionality. This new regime allows high dimensionality and diverging eigenvalue spikes and provides new insights into the roles the leading eigenvalues, sample size, and dimensionality play in principal component analysis. The results are proven by a technical device, which swaps the role of rows and columns and converts the high-dimensional problems into low-dimensional ones. Our results are a natural extension of those in Paul (2007) to more general setting with new insights and solve the rates of convergence problems in Shen et al. (2013). They also reveal the biases of the estimation of leading eigenvalues and eigenvectors by using principal component analysis, and lead to a new covariance estimator for the approximate factor model, called shrinkage principal orthogonal complement thresholding (S-POET), that corrects the biases. Our results are successfully applied to outstanding problems in estimation of risks of large portfolios and false discovery proportions for dependent test statistics and are illustrated by simulation studies.

연구 동기 및 목표

• 차원 수와 고유값 스파이크가 모두 발산하는 초고차원 스파이크 공분산 모형에서 경험적 고유값과 고유벡터의 점근적 행동을 이해하는 것.
• 고차원에서 스파이크가 발산하는 상황에서 주성분 분석의 수렴 속도와 점근적 편향을 규명하는 것.
• 주요 고유값과 고유벡터의 추정 편향을 보정하는 새로운 공분산 추정량인 수축 주성분 보완 임계값 처리(S-POET)를 개발하는 것.
• 이론적 결과를 포트폴리오 리스크 추정 및 종속된 검정 통계량에서의 가짜 발견 비율 통제와 같은 실제 문제에 적용하는 것.

제안 방법

• 표본 크기 $n$, 차원 수 $p$, 주요 고유값 $\lambda_j$의 스파이크 크기를 동시에 고려하는 일반화된 점근적 영역을 도입한다.
• 고차원 고유구조 문제를 저차원 문제로 전환하기 위해 행과 열을 바꾸는 새로운 기법적 장치를 사용한다.
• 새로운 점근적 영역 하에서 스파이크 고유값과 고유벡터의 점근적 공동분포를 유도하며, 이들의 편향과 수렴 속도를 규명한다.
• 수축과 임계값 처리를 조합하여 고유값과 고유벡터 추정의 편향을 보정하는 S-POET 추정량을 제안한다.
• 이론적 결과를 근사 인자 모형에 적용하며, 포트폴리오 리스크 추정과 가짜 발견 비율 통제에 적용한다.
• 고차원 랜덤 행렬 이론과 농도 부등식을 활용하여 고유값과 고유벡터의 추정 오차를 제한한다.

실험 결과

연구 질문

• RQ1 초고차원 환경에서 표본 크기, 차원 수, 스파이크 크기 간의 상호작용이 경험 고유값과 고유벡터의 점근적 분포에 어떻게 영향을 미치는가?
• RQ2 주요 고유값이 차원 수와 함께 증가할 경우 주성분 추정량의 수렴 속도와 점근적 편향은 무엇인가?
• RQ3 고차원 인자 모형에서 추정된 주요 고유값과 고유벡터의 편향은 어떻게 보정할 수 있는가?
• RQ4 제안된 S-POET 추정량은 대규모 포트폴리오에서 공분산 추정과 리스크 관리 향상에 있어 어떤 성능을 보이는가?
• RQ5 이론적 프레임워크는 종속된 검정 통계량에서의 가짜 발견 비율 통제에 적용될 수 있는가?

주요 결과

• 통합 영역 하에서 스파이크 고유값과 고유벡터의 점근적 분포가 도출되었으며, 이는 발산하는 고유값과 고차원성을 동시에 허용한다.
• 기본 PCA를 통한 주요 고유값과 고유벡터 추정은 편향이 있으며, 이 편향은 $\lambda_m$, $p$, $T$의 함수로 정량화된다.
• 제안된 S-POET 추정량은 이 편향을 보정하며 $\|\hat{\mathbf{B}} - \mathbf{B} \mathbf{H}^\top\|_{\max} = O_P\left(\sqrt{\frac{\log p}{T}}\right)$를 달성하여 추정 정확도를 향상시킨다.
• 잔차 추정 오차 $\max_{i,t} |\hat{u}_{it} - u_{it}| = o_P(1)$이며, 이는 특이성 성분의 일致적 복원을 확인한다.
• 이론적 결과는 종속성 하에서 포트폴리오 리스크와 가짜 발견 비율 추정에 성공적으로 적용되었다.
• Shen 등(2013)이 남긴 수렴 속도 문제를 해결하였으며, 고차원 스파이크 모형에서 고유구조의 완전한 점근적 특성화를 제공한다.