[논문 리뷰] Detection limits in the high-dimensional spiked rectangular model

A. El Alaoui, Michael I. Jordan|arXiv (Cornell University)|2018. 02. 20.

Random Matrices and Applications참고 문헌 40인용 수 11

한 줄 요약

이 논문은 고차원 스파iked 직사각형 모델에서 BBP 임계값 이하일 때, 스핀거즈 이론에 영감을 받은 확률적 캐비티 방법을 사용하여 우도비의 渐近적 가우시안 변동을 확립한다. 이는 이전의 구형 스파이크 결과를 일반적인 곱형 사전분포(희소 스파이크 포함)로 확장하며, 渐近적 정규성 영역이 관련된 스핀거즈 모델의 반자성 영역과 연결될 수 있음을 규명한다.

ABSTRACT

We study the problem of detecting the presence of a single unknown spike in a rectangular data matrix, in a high-dimensional regime where the spike has fixed strength and the aspect ratio of the matrix converges to a finite limit. This setup includes Johnstone's spiked covariance model. We analyze the likelihood ratio of the spiked model against an "all noise" null model of reference, and show it has asymptotically Gaussian fluctuations in a region below---but in general not up to---the so-called BBP threshold from random matrix theory. Our result parallels earlier findings of Onatski et al.\ (2013) and Johnstone-Onatski (2015) for spherical spikes. We present a probabilistic approach capable of treating generic product priors. In particular, sparsity in the spike is allowed. Our approach is based on Talagrand's interpretation of the cavity method from spin-glass theory. The question of the maximal parameter region where asymptotic normality is expected to hold is left open. This region is shaped by the prior in a non-trivial way. We conjecture that this is the entire paramagnetic phase of an associated spin-glass model, and is defined by the vanishing of the replica-symmetric solution of Lesieur et al.\ (2015).

연구 동기 및 목표

• 일반적인 곱형 사전분포 하에서 고차원 직사각형 데이터 행렬에서 약한 스파이크의 탐지 한계를 이해하는 것.
• 이전의 구형 스파이크 결과를 일반적이고, 희소일 수 있는 스파이크 사전분포로 확장하는 것.
• 로그우도비가 渐近적으로 가우시안이 되는 매개변수 공간의 영역을 규명하는 것.
• 고차원 랜덤 행렬 모델에서 우도비 변동을 분석하기 위해 캐비티 방법을 기반으로 한 확률적 프레임워크를 개발하는 것.

제안 방법

• 스피킹 모델과 노멀 모델 사이의 연속적 인터폴레이션을 위한 조절 해밀토니안을 사용하여 우도비를 분석한다.
• 스핀거즈 이론에서 탈라그랑드의 캐비티 방법 해석을 적용하여 일반적인 곱형 사전분포를 처리한다.
• 시간 연속 인터폴레이션 과정을 사용하며, $ t \in [0,1] $ 인 매개변수를 통해 길버트 기대의 진화를 추적한다.
• 레미마 10과 11을 활용하여 길버트 평균의 도함수에 대한 경계를 도출하여 $ \nu_0 $ 와 $ \nu_1 $ 의 차이를 통제함으로써 渐近적 정규성 결과를 확보한다.
• 변수의 유계성과 모멘트 통제를 바탕으로 핵심 식에서 시간-0 기대값을 시간-1 기대값으로 대체할 수 있음을 정당화한다.
• 漸진적 정규성 영역이 Lesieur 등(2015a)의 스핀거즈 모델에서 복제 대칭 해가 사라지는 영역과 연결됨을 연결한다.

실험 결과

연구 질문

• RQ1 고차원 스파iked 직사각형 모델에서 어떤 조건 하에 로그우도비가 渐近적으로 가우시안이 되는가?
• RQ2 漸진적 정규성 영역은 스파이크의 사전분포, 특히 비구형 또는 희소 사전분포일 경우 어떻게 달라지는가?
• RQ3 캐비티 방법은 구형 사전분포 외의 경우에도 우도비 변동을 분석하는 데 사용될 수 있는가?
• RQ4 漸진적 정규성 영역은 관련된 스핀거즈 모델의 반자성 영역과 동일한가?
• RQ5 BBP 임계값은 일반적인 사전분포 하에서 약한 스파이크의 탐지 가능성 결정에 어떤 역할을 하는가?

주요 결과

• 비구형 사전분포(희소 또는 곱형 분포 포함)일지라도, BBP 임계값 이하에서는 로그우도비가 渐진적으로 가우시안임이 입증된다.
• 漸진적 정규성 영역은 사전분포에 의해 비정상적으로 결정되며, 이는 관련된 스핀거즈 모델의 반자성 영역과 일치할 것이라 추측된다.
• 희소성과 같은 특성을 갖는 일반적인 곱형 사전분포를 효과적으로 처리하기 위해 스펙트럼 분석 대신 확률적 캐비티 접근법을 사용하였다.
• 연속적 인터폴레이션과 도함수 경계를 통해 우도비 변동이 가우시안임을 입증하였으며, 스펙트럼 분해에 의존하지 않았다.
• 漸진적 정규성 영역은 반드시 BBP 임계값까지 이르지는 않으며, 복제 대칭 해의 소멸을 통해 사전분포에 따라 영역의 크기가 달라진다.
• 이전의 Onatski 등과 Johnstone 및 Onatski의 결과(구형 사전분포에 국한됨)를 훨씬 넓은 범주로 일반화하였다.