[논문 리뷰] Spiked covariances and principal components analysis in high-dimensional random effects models

Zhou Fan, Iain M. Johnstone외 1명|arXiv (Cornell University)|2018. 06. 25.

Random Matrices and Applications참고 문헌 55인용 수 9

한 줄 요약

이 논문은 스파iked 공분산 구조를 가진 고차원 랜덤 효과 및 혼합 효과 모델에서 주성분을 분석하며, 교차 성분 영향으로 인해 분산 성분 추정치가 편향되는 앨리아싱 현상을 규명한다. 이에 따라 고차원 점점 증가하는 점근적 조건에서 이 앨리아싱을 제거하는 스펙트럼 보정 방법을 제안하며, 이는 진정한 주성분 고유값과 고유벡터의 일致 추정을 가능하게 한다.

ABSTRACT

We study principal components analyses in multivariate random and mixed effects linear models, assuming a spherical-plus-spikes structure for the covariance matrix of each random effect. We characterize the behavior of outlier sample eigenvalues and eigenvectors of MANOVA variance components estimators in such models under a high-dimensional asymptotic regime. Our results show that an aliasing phenomenon may occur in high dimensions, in which eigenvalues and eigenvectors of the MANOVA estimate for one variance component may be influenced by the other components. We propose an alternative procedure for estimating the true principal eigenvalues and eigenvectors that asymptotically corrects for this aliasing problem.

연구 동기 및 목표

• 고차원 점근적 조건에서 다변량 랜덤 효과 및 혼합 효과 모델에서 표본 고유값과 고유벡터의 행동을 이해하기 위해.
• MANOVA 및 REML 추정치에서 발생하는 앨리아싱 현상, 즉 한 분산 성분의 고유값과 고유벡터가 다른 성분에 의해 오염되는 현상을 규명하고 특성화하기 위해.
• 모집단 공분산이 스파iked 구조를 가질 경우 진정한 주성분 성분의 일致 추정량을 개발하기 위해.
• 표본 크기와 차원이 비례적으로 증가하는 고차원 체제에서 보정 추정량에 대한 이론적 보장을 확립하기 위해.

제안 방법

• 표본 크기 $ n $ 와 특성 수 $ p $ 가 비례적으로 증가하는 고차원 점근적 체제에서 MANOVA 및 REML 추정치의 스펙트럼 성질을 분석한다.
• 랜덤 효과의 공분산 구조를, 하나 이상의 큰 고유값을 가지며 나머지는 구형 배경을 형성하는 구조로 모델링한다.
• 무작위 행렬 이론과 리졸베이트 기법을 사용하여 분산 성분 추정치의 고유값과 고유벡터에 대한 점근적 전개를 유도한다.
• 오차 성분의 고유벡터가 랜덤 효과의 추정 주성분에 미치는 영향을 통해 앨리아싱 효과를 규명한다.
• 고유값과 고유벡터에서 발생하는 교차 성분 오염으로 인한 편향을 점차적으로 제거하는 보정 절차를 제안한다.
• 리졸베이트 항등식과 스텔리지스 변환을 통한 모멘트 매칭을 이용하여 보정된 고유값과 고유벡터의 점근적 분포를 도출한다.

실험 결과

연구 질문

• RQ1 스파iked 공분산 구조를 가진 고차원 랜덤 효과 모델에서 MANOVA 및 REML 추정치의 이상치 고유값과 고유벡터는 어떻게 행동하는가?
• RQ2 고차원에서 한 분산 성분의 고유벡터가 다른 성분의 스펙트럼 구조에 의해 어느 정도 편향되는가?
• RQ3 주성분 추정의 앨리아싱 효과를 보정할 수 있는 점근적으로 일치하는 추정량을 구성할 수 있는가?
• RQ4 고차원 체제에서 보정된 고유값과 고유벡터의 점근적 분포는 무엇인가?

주요 결과

• 고차원에서, 한 분산 성분의 추정 주성분이 다른 성분의 스펙트럼 구조에 의해 편향되는 앨리아싱 현상이 발생한다. 특히 그 고유벡터들이 부분적으로 일치할 경우 더욱 심해진다.
• MANOVA 또는 REML 추정치의 가장 큰 고유값은 진정한 공분산이 낮은 질서를 가질지라도 항상 상향으로 편향된다.
• 추정 공분산 행렬의 주고유벡터는 진짜 고유벡터와 일치하지 않으며, 오히려 오차 성분의 주요 고유벡터 쪽으로 끌려간다.
• 제안된 보정 절차는 이 앨리아싱을 점차적으로 제거하며, 진정한 주성분 고유값과 고유벡터의 일치 추정을 가능하게 한다.
• 보정된 추정량은 고차원 극한 조건에서 고유값에 대해 점근적 정규성을 확보하고 고유벡터에 대해 일致된 정렬을 달성한다.
• 보정은 스텔리지스 변환과 리졸베이트 항등식으로 유도된 스펙트럼 조정에 의존하며, 고확률 농도 부등식을 통해 오차 범위가 확립된다.