[논문 리뷰] Random weighted projections, random quadratic forms and random eigenvectors

Van Vu, Ke Wang|arXiv (Cornell University)|2013. 06. 13.

Random Matrices and Applications참고 문헌 30인용 수 8

한 줄 요약

이 논문은 고차원 공간에서의 무작위 가중 투영에 대한 농도 부등식을 수립하여, 무작위 이차형식과 무작위 $±1$ 행렬의 고유벡터의 무한노름에 대한 새로운 경계를 도출한다. 대부분의 단위 고유벡터의 무한노름이 $O(\sqrt{\log n/n})$임을 증명하고, 국소 반원법칙의 임계값에 대한 날카운 추정치를 $\sqrt{\log n}$ 요소까지 정밀하게 제공한다.

ABSTRACT

We present a concentration result concerning random weighted projections in high dimensional spaces. As applications, we prove (1) New concentration inequalities for random quadratic forms; (2) The infinity norm of most unit eigenvectors of a random $\pm 1$ matrix is of order $O( \sqrt { \log n/n})$; (3) An estimate on the threshold for the local semi-circle law which is tight up to a $\sqrt {\log n}$ factor.

연구 동기 및 목표

• 고차원 등방향 무작위 벡터에서의 무작위 가중 투영에 대한 일반적인 농도 부등식을 개발하기 위해.
• K-농도를 가진 무작위 벡터를 사용하여 고전적 투영 보조정리를 가중 및 i.i.d. 가 아닌 설정으로 확장하기 위해.
• 새로운 농도 프레임워크를 적용하여 무작위 $\pm 1$ 행렬의 고유벡터의 무한노름에 대한 경계를 도출하기 위해.
• 무작위 행렬 이론에서 국소 반원법칙의 임계값 추정치를 향상시키기 위해.
• 가중 투영과 고유값 교차 기법을 사용하여 무작위 공분산 행렬의 스펙트럼 행동을 정교하게 분석하기 위해.

제안 방법

• K-농도를 가진 무작위 벡터의 개념을 도입하여, 경량 꼬리를 가진 비i.i.d. 및 무거운 꼬리 분포를 포함하는 K-유계성의 일반화를 위해.
• 가중 투영 보조정리 증명: K-농도를 가진 벡터 $X$에 대해, 가중 투영 $\left(\sum c_j |u_j^*X|^2\right)^{1/2}$ 는 $\sqrt{\sum c_j}$ 근처에 농도를 보이며, 하우스형 꼬리 경계를 가짐.
• 탈라그란드 유형의 농도 부등식과 중앙값 이탈 경계를 사용하여 가중 이차형식의 이탈을 통제하기 위해.
• 꼬리 확률과 모멘트 조건을 통제함으로써 유계가 아닌 항목을 다루기 위해 절단 기법을 적용하기 위해.
• 고유값 교차와 스틸체스 변환 분석을 사용하여 무작위 행렬의 스펙트럼 분포를 추정하기 위해.
• 리만 적분과 주요값 추정을 사용하여 스펙트럼의 가장자리 근처에 있는 고유값 기여도를 근사하기 위해.

실험 결과

연구 질문

• RQ1 비균일한 가중치를 가진 무작위 투영에 대한 농도 부등식은 어떻게 비균일 가중치로 확장될 수 있는가?
• RQ2 기저 무작위 벡터가 $K$-농도를 가질 때, 가중 이차형식의 최적 농도 행동은 무엇인가?
• RQ3 무작위 $\pm 1$ 행렬의 고유벡터의 일반적인 $\ell^\infty$-노름은 무엇이며, 차원 $n$에 따라 어떻게 척도화되는가?
• RQ4 수렴을 위해 필요한 행렬 항목 수에 따라 국소 반원법칙의 날카운 임계값은 무엇인가?
• RQ5 가중 투영과 고유값 교차 기법을 사용하여 무작위 공분산 행렬의 스펙트럼 분포를 분석할 수 있는가?

주요 결과

• 무작위 $\pm 1$ 행렬의 대부분의 단위 고유벡터의 무한노름은 고확률적으로 $O(\sqrt{\log n/n})$이다.
• 논문은 가중 투영에 대한 새로운 농도 부등식을 수립하여, $\left|\sqrt{\sum c_j |u_j^*X|^2} - \sqrt{\sum c_j}\right|$ 가 분산 지수 $K^2$를 가진 하우스형임을 보였다.
• 국소 반원법칙의 임계값은 $\sqrt{\log n}$ 요소까지 날카롭게 추정되었으며, 이는 이전의 경계를 향상시켰다.
• K-농도를 가진 벡터에 대해, 가중 투영은 최대 확률 $C \exp(-C' t^2 / K^2)$로 평균에서 이탈한다.
• 스펙트럼 가장자리 근처의 고유값 변동 분석은 간격 분해와 주요값 적분을 사용하여 오차 항목을 통제하기 위해 사용되었다.
• 국소 법칙 추정의 오차는 $O(K^2 \log n / \sqrt{n})$로 나타났으며, 이는 로그 요소를 제외하고 최적이다.