[논문 리뷰] Universal Rank Inference via Residual Subsampling with Application to Large Networks

Xiao Han, Qing Yang외 1명|arXiv (Cornell University)|2019. 12. 25.

Random Matrices and Applications참고 문헌 23인용 수 6

한 줄 요약

이 논문은 큰 행렬의 질의 정확성을 검증하기 위해 잔차 행렬에서 스파이크된 성분을 제거한 후 잔차 행렬의 요소를 부분 추출하여 근사적으로 검정하는 보편적인 질 추론 방법인 잔차 부분 추출을 통한 질 선택(Residual Subsampling for Rank Selection, RIRS)을 제안한다. 이 검정 통계량은 귀무가설 하에서 渐近적으로 표준 정규분포를 따르며, 대립가설 하에서는 발산하게 되어, 이는 SBM, DCSBM, DCMM 등 다양한 네트워크 모델에서 이론적 보장을 바탕으로 일관된 질 추정을 가능하게 한다.

ABSTRACT

Determining the precise rank is an important problem in many large-scale applications with matrix data exploiting low-rank plus noise models. In this paper, we suggest a universal approach to rank inference via residual subsampling (RIRS) for testing and estimating rank in a wide family of models, including many popularly used network models such as the degree corrected mixed membership model as a special case. Our procedure constructs a test statistic via subsampling entries of the residual matrix after extracting the spiked components. The test statistic converges in distribution to the standard normal under the null hypothesis, and diverges to infinity with asymptotic probability one under the alternative hypothesis. The effectiveness of RIRS procedure is justified theoretically, utilizing the asymptotic expansions of eigenvectors and eigenvalues for large random matrices recently developed in [11] and [12]. The advantages of the newly suggested procedure are demonstrated through several simulation and real data examples.

연구 동기 및 목표

• 크게 퍼진 매트릭스 데이터, 특히 진짜 질이 일반적으로 알려져 있지 않은 네트워크 응용 분야에서 질 추정의 핵심 과제를 해결하기 위해.
• SBM, DCSBM, DCMM 등 인기 있는 네트워크 모델을 포함한 광범위한 낮은 질 + 잡음 모델에 적용 가능한 보편적이고 모델에 종속되지 않는 질 추론 방법을 개발하기 위해.
• $ H_0: K = K_0 $ 대 $ H_1: K > K_0 $에 대한 통계적으로 타당한 가설 검정을 제공하고, 적절한 渐近적 분포 이론을 확보하기 위해.
• 스파이크된 성분의 추정 오차로 인해 발생하는 잔차 행렬 내의 상관관계가 있는 요소들에도 불구하고도 메서드가 유효하게 유지되도록 보장하기 위해.
• 순차적 검정을 통해 진짜 질 $ K $ 를, 귀무가설을 기각하지 않는 가장 작은 $ K_0 $ 로 추정할 수 있도록 하기 위해.

제안 방법

• 메서드는 추정된 스파이크된 성분(즉, 상위 $ K_0 $ 고유성분)을 제거한 후 얻어진 잔차 행렬의 요소를 부분 추출하여 검정 통계량을 구성한다.
• 검정 통계량은 최근의 난수 행렬 이론에서 유도된 고유벡터와 고유값의 渐近적 전개를 활용하여, 귀무가설 $ H_0: K = K_0 $ 하에서 표준 정규분포로 수렴하도록 설계된다.
• 대립가설 $ H_1: K > K_0 $ 하에서는 잔차 행렬이 여전히 스파이크된 구조를 유지하여, 검정 통계량이 거의 확실히 무한대로 발산하게 된다.
• 추정 오차와 샘플링된 요소 간의 의존성을 균형 있게 조절하기 위해 신중하게 설계된 부분 추출 전략이 개발되었다. 이는 渐近적 정규분포를 보장한다.
• 절차는 순차적 검정 프레임워크를 사용한다: $ K_0 = 1, 2, dots, K_{ ext{max}} $ 에 대해 $ H_0: K = K_0 $ 를 검정하고, 귀무가설을 기각하지 않는 첫 번째 $ K_0 $ 를 진짜 질 $ K $ 로 추정한다.
• 대각선 요소가 0이 아닌 경우(예: 네트워크에서의 자기순환), 결정론적 부분 추출 전략도 제공되어 검정 통계량을 단순화한다.

실험 결과

연구 질문

• RQ1 낮은 질 + 잡음 구조를 가진 대규모 매트릭스 데이터에서 보편적이고 모델에 종속되지 않는 질 추론 방법을 개발할 수 있는가?
• RQ2 잔차 행렬의 요소들이 상관관계를 가질 경우에도, 잔차 부분 추출이 귀무가설 $ H_0: K = K_0 $ 하에서 표준 정규분포로 수렴하는 통계량을 제공하는가?
• RQ3 대립가설 $ H_1: K > K_0 $ 하에서 검정 통계량이 무한대로 발산하여 일관된 질 추정이 가능한가?
• RQ4 잔차 요소의 수를 어떻게 선택해야, 渐近적 정규분포를 유지하면서 동시에 추정 오차와 의존성을 최소화할 수 있는가?
• RQ5 이 메서드는 SBM, DCSBM, MM, DCMM 등의 실제 네트워크 모델에 얼마나 적용 가능한가?

주요 결과

• RIRS 검정 통계량은 귀무가설 $ H_0: K = K_0 $ 하에서 표준 정규분포로 수렴하여, 타당한 크기 제어를 보장한다.
• 대립가설 $ H_1: K > K_0 $ 하에서는 검정 통계량이 渐近적으로 거의 확실히 무한대로 발산하여, 과도한 질의 일관된 탐지가 가능하다.
• 큰 난수 행렬의 고유벡터와 고유값에 대한 渐近적 전개를 활용하여 이론적으로 타당성이 확보되었으며, [8]과 [9]의 결과에 기반한다.
• 순차적으로 $ H_0: K = K_0 $ 를 검정하고 귀무가설을 기각하지 않는 가장 작은 $ K_0 $ 를 선택함으로써 일관된 질 추정을 달성한다.
• 이 메서드는 스토케스틱 블록 모델(SBM), 디그리-수정된 SBM(DCSBM), 믹스드 멤버십(MM), 디그리-수정된 믹스드 멤버십(DCMM) 모델을 포함한 광범위한 네트워크 모델에 적용 가능하다.
• 실증 및 시뮬레이션 연구를 통해, 상관관계가 있는 잔차 요소와 비 i.i.d. 잡음 성분이 존재하는 다양한 설정에서도 메서드의 효과성이 입증되었다.