[논문 리뷰] Tracy-Widom distribution for the edge eigenvalues of Gram type random matrices.

Xiucai Ding, Fan Yang|arXiv (Cornell University)|2020. 08. 10.

Random Matrices and Applications참고 문헌 97인용 수 7

한 줄 요약

이 논문은 거의 날카로운 모멘트 조건과 정규성 가정 하에 고차원 그램 유형 랜덤 행렬의 가장자리 고유값에 대한 Tracy-Widom 분포를 수립한다. 직사각형 딜슨 브라운 운동을 통한 점근적 가장자리 보편성 증명을 통해 고차원 통계 및 머신러닝에서 신호 탐지, 구형성 검정, 블록 모델 구조 분석을 위한 적응형 추론을 가능하게 한다.

ABSTRACT

Large dimensional Gram type matrices are common objects in high-dimensional statistics and machine learning. In this paper, we study the limiting distribution of the edge eigenvalues for a general class of high-dimensional Gram type random matrices, including separable sample covariance matrices, sparse sample covariance matrices, bipartite stochastic block model and random Gram matrices with general variance profiles. Specifically, we prove that under (almost) sharp moment conditions and certain tractable regularity assumptions, the edge eigenvalues, i.e., the largest few eigenvalues of non-spiked Gram type random matrices or the extremal bulk eigenvalues of spiked Gram type random matrices, satisfy the Tracy-Widom distribution asymptotically. Our results can be used to construct adaptive, accurate and powerful statistics for high-dimensional statistical inference. In particular, we propose data-dependent statistics to infer the number of signals under general noise structure, test the one-sided sphericity of separable matrix, and test the structure of bipartite stochastic block model. Numerical simulations show strong support of our proposed statistics. The core of our proof is to establish the edge universality and Tracy-Widom distribution for a rectangular Dyson Brownian motion with regular initial data. This is a general strategy to study the edge statistics for high-dimensional Gram type random matrices without exploring the specific independence structure of the target matrices. It has potential to be applied to more general random matrices that are beyond the ones considered in this paper.

연구 동기 및 목표

• 넓은 범위의 고차원 그램 유형 랜덤 행렬에 대해 가장자리 고유값의 극한 분포를 유도하는 것.
• 특정 행렬의 독립성 구조에 의존하지 않고 가장자리 보편성과 Tracy-Widom 점근적 행동을 수립하는 것.
• 일반적인 노이즈와 네트워크 구조 하에서 고차원 추론을 위한 데이터에 의존하는 통계량을 개발하는 것.
• 고차원 설정에서 신호 탐지, 구형성 검정, 블록 모델 구조 검정을 정확하게 수행할 수 있도록 하는 것.

제안 방법

• 정규적인 초기 데이터를 가진 직사각형 딜슨 브라운 운동을 분석하여 가장자리 보편성을 도출한다.
• 특정 행렬의 독립성 구조에 의존하지 않는 일반 전략을 적용한다.
• 거의 날카로운 모멘트 조건과 다루기 쉬운 정규성 가정을 사용하여 점근적 타당성을 확보한다.
• 비스피킹 및 스피킹 행렬 모델에서 극단 고유값에 대한 Tracy-Widom 분포를 도출한다.
• 신호 수 추정, 한쪽 방향 구형성, 이분할 스토케스틱 블록 모델 검정을 위한 데이터 기반 검정 통계량을 제안한다.
• 강력한 경험적 지지를 보여주는 수치 시뮬레이션을 통해 방법을 검증한다.

실험 결과

연구 질문

• RQ1 일반적인 모멘트 조건과 정규성 가정 하에서 고차원 그램 유형 랜덤 행렬의 가장자리 고유값이 Tracy-Widom 분포로 수렴하는가?
• RQ2 행렬 원소의 특정 독립성 구조를 활용하지 않고도 가장자리 보편성을 확립할 수 있는가?
• RQ3 Tracy-Widom 극한은 어떻게 고차원 설정에서 적응적이고 강력한 추론 통계량을 구성하는 데 활용될 수 있는가?
• RQ4 제안된 프레임워크는 일반적인 노이즈 구조 하에서 신호 수를 탐지할 수 있는가?
• RQ5 이 방법은 분리 가능한 공분산 행렬의 한쪽 방향 구형성 검정과 이분할 스토케스틱 블록 모델의 구조 검정을 수행할 수 있는가?

주요 결과

• 거의 날카로운 모멘트 조건 하에서 비스피킹 그램 유형 행렬의 가장자리 고유값과 스피킹 행렬의 극단적 밀도 고유값은 Tracy-Widom 분포로 수렴한다.
• 정규적인 초기 데이터를 가진 직사각형 딜슨 브라운 운동을 기반으로 한 일반적 프레임워크를 통해 가장자리 보편성이 확립된다.
• 이 방법은 분리 가능한 표본 공분산 행렬, 희박 공분산 행렬, 이분할 스토케스틱 블록 모델, 일반적인 분산 프로파일을 가진 랜덤 그램 행렬 등에 광범위하게 적용 가능하다.
• 신호 수 탐지, 한쪽 방향 구형성 검정, 블록 모델 구조 추론을 위한 데이터 기반 통계량이 제안된다.
• 수치 시뮬레이션을 통해 제안된 추론 방법의 강력한 경험적 성능과 강인함이 확인된다.
• 구조적 일반성 덕분에 이 방법은 명시적으로 연구된 범주 외의 다른 랜덤 행렬 클래스에도 이식 가능하다.