[논문 리뷰] The Littlewood-Offord Problem and invertibility of random matrices

Mark Rudelson, Roman Vershynin|arXiv (Cornell University)|2007. 03. 16.

Random Matrices and Applications참고 문헌 18인용 수 8

한 줄 요약

이 논문은 i.i.d. 성분을 가진 랜덤 행렬의 최소 특이값에 대한 두 가지 오랜 동안의 추측을 해결한다. 최소한의 모멘트 조건 하에서, 최소 특이값이 높은 확률로 $ n^{-1/2} $ 주위에 있음을 증명하고, 최적의 尾確率 추정을 수립한다. 핵심 혁신은, 동일한 크기의 계수를 가진 i.i.d. 랜덤 변수들의 합이 농도 확률에 비례하여, 오직 길이가 그 역수인 등차수열 근처에만 집중됨을 보여주는 정밀한 Littlewood-Offord 유형의 추정이다.

ABSTRACT

We prove two basic conjectures on the distribution of the smallest singular value of random n times n matrices with independent entries. Under minimal moment assumptions, we show that the smallest singular value is of order n^{-1/2}, which is optimal for Gaussian matrices. Moreover, we give a optimal estimate on the tail probability. This comes as a consequence of a new and essentially sharp estimate in the Littlewood-Offord problem: for i.i.d. random variables X_k and real numbers a_k, determine the probability P that the sum of a_k X_k lies near some number v. For arbitrary coefficients a_k of the same order of magnitude, we show that they essentially lie in an arithmetic progression of length 1/p.

연구 동기 및 목표

• i.i.d. 성분을 가진 랜덤 행렬의 최소 특이값이 네 번째 모멘트 조건 하에서 $ n^{-1/2} $ 주위에 있음을 증명하는 추측을 해결하는 것.
• 기존의 가우시안 행렬 결과를 일반적인 i.i.d. 성분으로 확장하여 최소 특이값에 대한 정밀한 尾確率 추정을 수립하는 것.
• Spielman-Teng의 랜덤 부호 행렬의 가역성에 대한 추측을 증명하여, 특이성 확률이 지수적으로 작고, 최소 특이값이 Tracy-Widom 유형의 尾確率 추정을 만족함을 보이는 것.
• i.i.d. 랜덤 변수의 선형 형식의 농도를 특성화하는 새로운, 거의 정밀한 추정을 개발하는 것.

제안 방법

• i.i.d. 랜덤 변수 $ X_k $와 실수 계수 $ a_k $에 대해, $ \sum a_k X_k $가 고정된 값 $ v $ 근처에 있을 확률이 $ O(1/p) $ 이하로 유계임을 보여주는, Littlewood-Offord 문제에 대한 새로운 정밀 추정을 개발한다. 여기서 $ p $ 는 농도 확률이다.
• 최소 특이값을 분석하기 위해 단위 구면을 압축 가능 벡터와 압축 불가능 벡터로 분해한다.
• 행렬의 첫 번째 $ n-1 $개 행에 대한 조건부 기대를 사용하여 랜덤 법선 벡터의 노름과 마지막 행과의 내적을 제어한다.
• 작은 공 확률 추정(보조정리 4.9)을 적용하여, 랜덤 법선 벡터와 마지막 행의 내적이 작은 확률을 제어한다.
• 구면 위의 $ \ell^2 $-넷을 이용한 네트워크 추론 기법을 사용하여, 압축 불가능한 벡터에서의 행렬 행동을 제어한다.
• 압축 가능 및 압축 불가능한 경우를 유니언 바운드와 지수 꼬리 추정을 사용하여 결합하여 최종적인 가역성 결과를 도출한다.

실험 결과

연구 질문

• RQ1 네 번째 모멘트 조건만을 가정할 때, $ n \times n $ 랜덤 행렬의 최소 특이값의 최적의 꼬리 행동은 무엇인가?
• RQ2 농도가 오직 길이 $ 1/p $ 의 등차수열 근처에서만 발생함을 보여주는 역 Littlewood-Offord 문제를 해결할 수 있는가?
• RQ3 랜덤 부호 행렬의 최소 특이값은 특이성에 대한 지수적으로 작은 수정까지 Tracy-Widom 유형의 꼬리 추정을 만족하는가?
• RQ4 서브가우시안 모멘트 조건 하에서, 최소 특이값의 지수 꼬리 추정을 통해 랜덤 행렬의 가역성을 확립할 수 있는가?
• RQ5 가우시안 경우를 초월하여 일반적인 i.i.d. 행렬에 대해 최소 특이값의 크기 주위가 $ n^{-1/2} $ 이 최적인가?

주요 결과

• 네 번째 모멘트 조건 하에서, 최소 특이값 $ s_n(A) $ 는 모든 $ n \geq n_0 $ 에 대해 $ \mathbb{P}(s_n(A) \leq \varepsilon n^{-1/2}) \leq \delta $ 를 만족하며, 여기서 $ \varepsilon $ 와 $ n_0 $ 는 $ \delta $ 와 네 번째 모멘트 유계 $ B $ 에 대해 다항적으로 의존한다. 이는 von Neumann, Smale, Edelman의 추측을 증명한다.
• 서브가우시안 i.i.d. 성분을 가진 행렬에서 서브가우시안 모멘트가 $ B $ 이하일 경우, $ \mathbb{P}(s_n(A) \leq \varepsilon n^{-1/2}) \leq C\varepsilon + c^n $ 이다. 여기서 $ C>0 $, $ c\in(0,1) $ 은 오직 $ B $ 에만 의존한다. 이는 Spielman-Teng의 추측을 확인한다.
• 논문은 정밀한 Littlewood-Offord 추정을 수립한다: 계수 $ a_k $ 가 동일한 크기일 경우, $ \sum a_k X_k $ 가 어떤 값 $ v $ 근처에 농도할 확률 $ p $ 는 $ a_k $ 가 길이 $ O(1/p) $ 의 등차수열에 포함됨을 의미한다.
• 최소 특이값은 높은 확률로 $ n^{-1/2} $ 주위에 있으며, 이 추정은 최적이며 가우시안 행렬의 행동과 정확히 일치한다.
• 랜덤 부호 행렬의 특이성 확률이 지수적으로 작다는 것이 입증되었으며, 이는 추측된 $ (1/2 + o(1))^n $ 과 일치한다. 또한 최소 특이값에 대한 꼬리 추정이 이 수정까지도 성립함을 증명하였다.
• 강한 가역성 결과는 지수 꼬리 추정을 통해 도출되었으며, $ \mathbb{P}(\inf_{x \in \text{Incomp}} \|Ax\|_2 \leq \varepsilon \rho n^{-1/2}) \leq \frac{C_{11}}{\delta}(\varepsilon + c^n) + \mathbb{P}(\|A\| > Kn^{1/2}) $ 이다. 이는 이전 연구에서의 다항 추정보다 향상된 결과이다.