[논문 리뷰] The Random Matrix Regime of Maronna's M-estimator with elliptically distributed samples

Romain Couillet, Frédéric Pascal외 1명|arXiv (Cornell University)|2013. 11. 27.

Random Matrices and Applications인용 수 10

한 줄 요약

이 논문은 인구 차원 $N$과 표본 크기 $n$이 동일한 비율로 커질 때, Maronna의 M-추정량이 강건한 산란 행렬 추정에서 渐近적으로 고전적인 랜덤 행렬 모델과 유사하게 행동함을 밝힌다. 타원 분포 가정 하에, 추정량은 스펙트럴 노름에서 거의 확실히 고전적인 랜덤 행렬 집합의 행렬로 수렴하며, 그 한계 고유값 분포가 유도된다.

ABSTRACT

This article demonstrates that the robust scatter matrix estimator $\\hat{C}_N\\in {\\mathbb C}^{N\ imes N}$ of a multivariate elliptical population $x_1,\\ldots,x_n\\in {\\mathbb C}^N$ originally proposed by Maronna in 1976, and defined as the solution (when existent) of an implicit equation, behaves similar to a well-known random matrix model in the limiting regime where the population $N$ and sample $n$ sizes grow at the same speed. We show precisely that $\\hat{C}_N\\in{\\mathbb C}^{N\ imes N}$ is defined for all $n$ large with probability one and that, under some light hypotheses, $\\Vert \\hat{C}_N-\\hat{S}_N\\Vert\ o 0$ almost surely in spectral norm, where $\\hat{S}_N$ follows a classical random matrix model. As a corollary, the limiting eigenvalue distribution of $\\hat{C}_N$ is derived. This analysis finds applications in the fields of statistical inference and signal processing.

연구 동기 및 목표

• 인구 차원 $N$과 표본 크기 $n$이 비례적으로 증가하는 고차원 영역에서 Maronna의 M-추정량의 渐近적 행동을 분석하는 것.
• 타원 분포 가정 하에 추정량이 거의 확실히 고전적인 랜덤 행렬 모델로 수렴함을 확립하는 것.
• 랜덤 행렬 이론의 도구를 사용하여 강건한 추정량의 한계 스펙트럼 분포를 도출하는 것.
• 이전의 독립적 성분 모델 결과를 더 일반적인 타원 분포 사례로 확장하여 신호 처리와 통계적 추론에서의 적용 범위를 넓히는 것.

제안 방법

• 타원 대칭성 하에서 강건한 산란 추정량을 암묵적인 고정점 방정식의 해로 수식화한다.
• 큰 차원 랜덤 행렬 이론을 적용하여 $N,n \to \infty$ 일 때 추정량의 스펙트럼 성질을 분석하고, $c_N = N/n$ 이 유계임을 가정한다.
• 단일 차원 편향과 추적 모멘트 부등식을 사용하여 경험적 스펙트럼 분포의 이탈을 제어한다.
• 유니터리 불변 벡터 모델과 농도 조건을 활용하여 타원 표본의 비정규성 및 무거운 尾部 특성 처리한다.
• 함수 $\phi(x) = x u(x)$ 의 증가성에 기반하여 고정점 해의 안정성과 유일성을 보장한다.
• 스펙트럴 노름에서 $\|\hat{C}_N - \hat{S}_N\| \to 0$ 이 거의 확실히 성립함을 증명한다. 여기서 $\hat{S}_N$ 은 고전적인 랜덤 행렬 모델을 따른다.

실험 결과

연구 질문

• RQ1 인구 차원 $N$과 표본 크기 $n$이 동일한 비율로 커질 때, Maronna의 M-추정량은 어떻게 渐近적으로 행동하는가?
• RQ2 강건한 추정량 $\hat{C}_N$ 이 거의 확실히 고전적인 랜덤 행렬 모델로 수렴하는 조건은 무엇인가?
• RQ3 타원 분포 하에서 강건한 산란 행렬 추정량의 한계 고유값 분포는 무엇인가?
• RQ4 고차원 영역에서 확률적 도구를 사용하여 추정량이 고전적 모델로 수렴하는 것이 엄밀히 증명될 수 있는가?
• RQ5 타원 분포의 구조는 i.i.d. 모델과 비교해 M-추정량의 스펙트럼 성질에 어떤 영향을 미치는가?

주요 결과

• 주어진 渐近적 영역 하에서 충분히 큰 $n$에 대해 추정량 $\hat{C}_N$ 은 거의 확실히 잘 정의되어 있다.
• $\|\hat{C}_N - \hat{S}_N\| \to 0$ 이 거의 확실히 스펙트럴 노름에서 성립하며, 여기서 $\hat{S}_N$ 은 고전적인 랜덤 행렬 모델을 따른다.
• $\hat{C}_N$ 의 한계 고유값 분포는 $\hat{S}_N$ 과 동일하며, 그 마르체노-파스트르 유형의 한계 법칙을 물려받는다.
• 수렴은 타원 분포에 대한 온건한 모멘트 조건, 즉 유한한 네 번째 모멘트 조건 하에서도 성립한다.
• 분석 결과 강건한 추정량이 고전적인 랜덤 행렬의 스펙트럼 행동을 물려받음을 확인하여, 고차원 추론에서의 활용을 정당화한다.
• 이전의 i.i.d. 모델 결과를 더 일반적인 타원 사례로 확장하여, 신호 처리 및 고차원 통계에서의 적용 범위를 넓혔다.