[論文レビュー] Distances between Random Orthogonal Matrices and Independent Normals

Tiefeng Jiang, Yutao Ma|arXiv (Cornell University)|Apr 18, 2017

Random Matrices and Applications参考文献 27被引用数 14

ひとこと要約

本稿は、4つの統計的距離（全変動距離、ヘルンバーグ距離、カルバック・ライブラー距離、ユークリッド距離）において、ランダムな直交行列の部分行列がi.i.d. ガウス行列に収束する際の鋭い漸近的閾値を確立している。全変動距離、ヘルンバーグ距離、カルバック・ライブラー距離は $pq/n \to 0$ のとき消えるが、ユークリッド距離はより厳しい条件 $pq^2/n \to 0$ が必要であり、これは予想を確認し、収束速度に関する未解決の問題を解消する。

ABSTRACT

Let $Γ_n$ be an $n imes n$ Haar-invariant orthogonal matrix. Let $ Z_n$ be the $p imes q$ upper-left submatrix of $Γ_n,$ where $p=p_n$ and $q=q_n$ are two positive integers. Let $G_n$ be a $p imes q$ matrix whose $pq$ entries are independent standard normals. In this paper we consider the distance between $\sqrt{n} Z_n$ and $ G_n$ in terms of the total variation distance, the Kullback-Leibler distance, the Hellinger distance and the Euclidean distance. We prove that each of the first three distances goes to zero as long as $pq/n$ goes to zero, and not so this rate is sharp in the sense that each distance does not go to zero if $(p, q)$ sits on the curve $pq=σn$, where $σ$ is a constant. However, it is different for the Euclidean distance, which goes to zero provided $pq^2/n$ goes to zero, and not so if $(p,q)$ sits on the curve $pq^2=σn.$ A previous work by Jiang \cite{Jiang06} shows that the total variation distance goes to zero if both $p/\sqrt{n}$ and $q/\sqrt{n}$ go to zero, and it is not true provided $p=c\sqrt{n}$ and $q=d\sqrt{n}$ with $c$ and $d$ being constants. One of the above results confirms a conjecture that the total variation distance goes to zero as long as $pq/n o 0$ and the distance does not go to zero if $pq=σn$ for some constant $σ$.

研究の動機と目的

• 全変動距離 $\sqrt{n}\mathbf{Z}_n$ と $\mathbf{G}_n$ の間で $pq/n \to 0$ のもとで消えるかどうかという長年の予想を解消すること。このとき $p$ と $q$ の相対的スケーリングにかかわらず成立する。
• 全変動距離を超えてヘルンバーグ距離、カルバック・ライブラー距離、ユークリッド距離を含めた分析を拡張し、それぞれの収束閾値を同定すること。
• 収束の鋭いフェーズ遷移を確立し、第一の三つの距離に対しては $pq/n \to 0$ が、ユークリッド距離に対しては $pq^2/n \to 0$ が、それぞれ必要十分条件であることを示すこと。
• 異なる距離尺度における収束速度の包括的比較を提供し、高次元確率行列理論におけるこれらの収束基準の相対的強さを明確にすること。

提案手法

• 著者らは、$n \times n$ のハール不変直交行列 $\mathbb{\Gamma}_n$ の上左 $p \times q$ 部分行列 $\mathbf{Z}_n$ の要素の連合分布を分析し、i.i.d. 標準正規行列 $\mathbf{G}_n$ と比較している。
• 変数 $p_n$ と $q_n$ のさまざまな漸近的スケーリング下での、全変動距離、ヘルンバーグ距離、カルバック・ライブラー距離、ユークリッド距離の挙動を、モーメントとコマリヤントの漸近的解析によって導出している。
• 全変動距離、ヘルンバーグ距離、カルバック・ライブラー距離の証明は、モーメントマッチングと集中不等式に依拠しており、$pq/n \to 0$ のとき収束し、$pq/n \to \sigma > 0$ のとき発散することを示し、鋭い閾値を確立している。
• ユークリッド距離の分析は、差のトレースノルム $\|\sqrt{n}\mathbf{Z}_n - \mathbf{G}_n\|_F$ に依存しており、$pq^2/n \to 0$ のとき収束し、$pq^2/n \to \sigma > 0$ のとき発散することを示している。第二階のモーメント展開と分散計算が用いられている。
• 特にユークリッド距離の場合は、背理法と部分列解析を用いて条件の必要性を証明しており、閾値を満たさない場合に収束が破綻するような補助列を構築している。

実験結果

リサーチクエスチョン

• RQ1 全変動距離 $\sqrt{n}\mathbf{Z}_n$ と $\mathbf{G}_n$ の間で $pq/n \to 0$ のとき、$p$ と $q$ のスケーリングが異なっていても、収束が成立するか？
• RQ2 ヘルンバーグ距離とカルバック・ライブラー距離も $pq/n \to 0$ 条件のもとで消えるのか？ そして、その閾値は鋭いか？
• RQ3 ユークリッド距離も同様に $pq/n \to 0$ 条件に従うのか、それともより強い条件を要するのか？
• RQ4 ユークリッド距離が消えるための正確な漸近的閾値は何か？ 他の距離とどのように異なるか？
• RQ5 各距離尺度の収束条件が必要十分であるか、背理法とモーメント解析により証明可能か？

主な発見

• 全変動距離 $\sqrt{n}\mathbf{Z}_n$ と $\mathbf{G}_n$ の間で、かつて $pq/n \to 0$ であるときかつそのときに限り収束する。これは、この条件が必要かつ十分であるという予想を確認するものである。
• ヘルンバーグ距離とカルバック・ライブラー距離も、かつて $pq/n \to 0$ であるときかつそのときに限り収束する。同じ鋭い閾値が成り立ち、全変動距離を超える結果の拡張である。
• ユークリッド距離は、かつて $pq^2/n \to 0$ であるときかつそのときに限り収束する。これは $pq/n \to 0$ よりも厳しく、この尺度における挙動の根本的な違いを示している。
• $pq/n \to \sigma > 0$ のとき、全変動距離、ヘルンバーグ距離、カルバック・ライブラー距離はいずれもゼロに収束しない。これにより、$pq/n \to 0$ の閾値が鋭いことが立証される。
• ユークリッド距離について、$pq^2/n \to \sigma > 0$ のとき、距離はゼロに収束しない。これにより、$pq^2/n \to 0$ が必要かつ十分であることが証明される。
• 本稿は、4つの標準的統計的距離における収束閾値を完全に特徴づけ、確率行列理論および高次元確率論における未解決問題を解決している。