[논문 리뷰] Distances between Random Orthogonal Matrices and Independent Normals

Tiefeng Jiang, Yutao Ma|arXiv (Cornell University)|2017. 04. 18.

Random Matrices and Applications참고 문헌 27인용 수 14

한 줄 요약

이 논문은 네 가지 통계적 거리인 총변동거리, 헬링거 거리, 쿨백-라이블러 거리, 유클리드 거리에서 랜덤 직교행렬의 부분행렬이 i.i.d. 가우시안 행렬로 수렴하는 데 대한 날카운 점점 수렴 임계점을 확립한다. 총변동거리, 헬링거 거리, 쿨백-라이블러 거리는 $pq/n \to 0$이면 0으로 수렴함을 증명하고, 유클리드 거리는 더 엄격한 조건인 $pq^2/n \to 0$이 필요함을 보이며, 이는 추측을 확인하고 수렴 속도에 관한 열린 문제를 해결한다.

ABSTRACT

Let $Γ_n$ be an $n imes n$ Haar-invariant orthogonal matrix. Let $ Z_n$ be the $p imes q$ upper-left submatrix of $Γ_n,$ where $p=p_n$ and $q=q_n$ are two positive integers. Let $G_n$ be a $p imes q$ matrix whose $pq$ entries are independent standard normals. In this paper we consider the distance between $\sqrt{n} Z_n$ and $ G_n$ in terms of the total variation distance, the Kullback-Leibler distance, the Hellinger distance and the Euclidean distance. We prove that each of the first three distances goes to zero as long as $pq/n$ goes to zero, and not so this rate is sharp in the sense that each distance does not go to zero if $(p, q)$ sits on the curve $pq=σn$, where $σ$ is a constant. However, it is different for the Euclidean distance, which goes to zero provided $pq^2/n$ goes to zero, and not so if $(p,q)$ sits on the curve $pq^2=σn.$ A previous work by Jiang \cite{Jiang06} shows that the total variation distance goes to zero if both $p/\sqrt{n}$ and $q/\sqrt{n}$ go to zero, and it is not true provided $p=c\sqrt{n}$ and $q=d\sqrt{n}$ with $c$ and $d$ being constants. One of the above results confirms a conjecture that the total variation distance goes to zero as long as $pq/n o 0$ and the distance does not go to zero if $pq=σn$ for some constant $σ$.

연구 동기 및 목표

• 총변동거리가 $pq/n \to 0$이면 항상 $p$와 $q$의 상대적 척도에 관계없이 $\sqrt{n}\mathbf{Z}_n$와 $\mathbf{G}_n$ 사이에서 0으로 수렴하는지 여부에 대한 오랫동안 남아있던 추측을 해결하기 위해.
• 총변동거리를 넘어서 헬링거 거리, 쿨백-라이블러 거리, 유클리드 거리를 포함한 분석을 확장하여 각 거리의 수렴 임계점을 규명하기 위해.
• 수렴에 대한 날카운 단계 전이를 확립하여, 첫 번째 세 거리의 경우 $pq/n \to 0$이 필요하고 충분하며, 유클리드 거리의 경우 $pq^2/n \to 0$이 필요하고 충분함을 보여주기 위해.
• 다양한 거리 척도 간 수렴 속도를 종합적으로 비교하여, 고차원 랜덤 행렬 이론에서 이러한 수렴 기준의 상대적 강도를 명확히 하기 위해.

제안 방법

• 저자들은 $n \times n$ 하르-불변 직교행렬 $\mathbb{\Gamma}_n$의 $p \times q$ 상단-좌측 부분행렬 $\mathbf{Z}_n$의 원소들의 공동분포를 분석하고, 이와 i.i.d. 표준 정규행렬 $\mathbf{G}_n$를 비교한다.
• 다양한 渐近적 영역에서 $p_n$과 $q_n$의 변화를 고려하여, 총변동거리, 헬링거 거리, 쿨백-라이블러 거리, 유클리드 거리의 행동을 도출하기 위해 모멘트와 첨도의 渐近적 분석을 사용한다.
• 총변동거리, 헬링거 거리, 쿨백-라이블러 거리의 증명은 모멘트 매칭과 농도 불등식에 기반하며, $pq/n \to 0$일 때 수렴하고 $pq/n \to \sigma > 0$일 때 발산함을 보여, 날카운 임계점을 확립한다.
• 유클리드 거리의 경우, 차이의 트레이스 노름 $\|\sqrt{n}\mathbf{Z}_n - \mathbf{G}_n\|_F$에 기반한 분석이 핵심이며, $pq^2/n \to 0$일 때 수렴하고 $pq^2/n \to \sigma > 0$일 때 발산함을 보이며, 두 번째 모멘트 전개와 공분산 계산을 사용한다.
• 특히 유클리드 거리의 경우, 조건의 필요성을 증명하기 위해 모순 증명과 부분수열 분석을 사용하며, 임계값 이하에서 수렴이 성립하지 않는 보조 수열을 구성함으로써 필요성을 입증한다.

실험 결과

연구 질문

• RQ1 총변동거리가 $pq/n \to 0$이면 $p$와 $q$의 척도가 다를 때에도 $\sqrt{n}\mathbf{Z}_n$와 $\mathbf{G}_n$ 사이에서 0으로 수렴하는가?
• RQ2 헬링거 거리와 쿨백-라이블러 거리도 동일한 $pq/n \to 0$ 조건 하에서 0으로 수렴하는가? 그리고 이 임계점은 날카로운가?
• RQ3 유클리드 거리는 동일한 $pq/n \to 0$ 조건을 따르는가, 아니면 더 강한 조건이 필요한가?
• RQ4 유클리드 거리가 0으로 수렴하는 정확한 渐近적 임계점은 무엇이며, 다른 거리와 어떻게 다를까?
• RQ5 각 거리 척도의 수렴 조건이 필수적이고 충분한가? 그리고 이는 모멘트 분석과 모순 증명을 통해 증명될 수 있는가?

주요 결과

• 총변동거리가 $\sqrt{n}\mathbf{Z}_n$와 $\mathbf{G}_n$ 사이에서 0으로 수렴하는 것은 $pq/n \to 0$이면 오직 그때에만 성립하며, 이는 이 조건이 필수적이고 충분함을 확인하는 추측을 확인한다.
• 헬링거 거리와 쿨백-라이블러 거리 역시 $pq/n \to 0$이면 오직 그때에만 0으로 수렴하며, 동일한 날카운 임계점을 가지며, 총변동거리 이외의 분석으로 확장된 결과이다.
• 유클리드 거리는 오직 $pq^2/n \to 0$일 때에만 0으로 수렴하며, 이는 $pq/n \to 0$보다 엄격한 조건이므로 이 척도에서의 행동에 근본적인 차이가 있음을 보여준다.
• $pq/n \to \sigma > 0$이면 총변동거리, 헬링거 거리, 쿨백-라이블러 거리는 0으로 수렴하지 않으며, 이는 $pq/n \to 0$ 임계점의 날카로움을 입증한다.
• 유클리드 거리의 경우 $pq^2/n \to \sigma > 0$이면 거리가 0으로 수렴하지 않으며, 이는 $pq^2/n \to 0$이 필수적이고 충분함을 증명한다.
• 논문은 네 가지 표준 통계적 거리에 대한 수렴 임계점의 완전한 특성화를 제공하며, 랜덤 행렬 이론과 고차원 확률론에서 오랫동안 남아있던 열린 문제를 해결한다.