[論文レビュー] Canonical correlation coefficients of high-dimensional normal vectors: finite rank case

Zhigang Bao, Jiang Hu+2 more|arXiv (Cornell University)|Jul 27, 2014

Advanced Algebra and Geometry被引用数 6

ひとこと要約

本稿は、二つの確率的ベクトル間の共分散行列が有限ランクである高次元設定において、標準的相関係数を研究している。次元の比が (0,1) の定数に収束する条件の下で、最大の標本標準的相関固有値が確率1で閾値依存の極限に収束することを確立し、高次元における真の有限ランク相関構造の一貫した推定を可能にする。

ABSTRACT

Consider a normal vector $\mathbf{z}=(\mathbf{x}',\mathbf{y}')'$, consisting of two sub-vectors $\mathbf{x}$ and $\mathbf{y}$ with dimensions $p$ and $q$ respectively. With $n$ independent observations of $\mathbf{z}$ at hand, we study the correlation between $\mathbf{x}$ and $\mathbf{y}$, from the perspective of the Canonical Correlation Analysis, under the high-dimensional setting: both $p$ and $q$ are proportional to the sample size $n$. In this paper, we focus on the case that $Σ_{\mathbf{x}\mathbf{y}}$ is of finite rank $k$, i.e. there are $k$ nonzero canonical correlation coefficients, whose squares are denoted by $r_1\geq\cdots\geq r_k>0$. Under the additional assumptions $(p+q)/n o y\in (0,1)$ and $p/q ot o 1$, we study the sample counterparts of $r_i,i=1,\ldots,k$, i.e. the largest k eigenvalues of the sample canonical correlation matrix $S_{\mathbf{x}\mathbf{x}}^{-1}S_{\mathbf{x}\mathbf{y}}S_{\mathbf{y}\mathbf{y}}^{-1}S_{\mathbf{y}\mathbf{x}}$, namely $λ_1\geq\cdots\geq λ_k$. We show that there exists a threshold $r_c\in(0,1)$, such that for each $i\in\{1,\ldots,k\}$, when $r_i\leq r_c$, $λ_i$ converges almost surely to the right edge of the limiting spectral distribution of the sample canonical correlation matrix, denoted by $d_r$. When $r_i>r_c$, $λ_i$ possesses an almost sure limit in $(d_r,1]$, from which we can recover $r_i$ in turn, thus provide an estimate of the latter in the high-dimensional scenario.

研究の動機と目的

• 母集団の共分散行列が有限ランクである場合の標本標準的相関係数の漸近的挙動を分析すること。
• 次元 p と q が標本サイズ n と比例して増加する高次元設定において、標準的相関係数を推定する課題に対処すること。
• 高次元漸近的条件下で、最大の標本標準的相関固有値のほとんど確実な収束特性を確立すること。
• その標本対応物に基づいて、真の標準的相関係数の閾値ベース推定手順を導出すること。
• 共分散行列に有限ランク構造を有する高次元多変量解析における推論の理論的基盤を提供すること。

提案手法

• 次元が p と q である高次元正規確率的ベクトル (x, y) をモデル化し、p, q → ∞ が標本サイズ n に比例するようにする。
• 標準的相関行列を Σ_xx⁻¹Σ_xyΣ_yy⁻¹Σ_yx と定義し、その固有値 r_i を二乗母集団標準的相関とみなす。
• 共分散行列 Σ_xy が有限ランク k を持つと仮定し、これにより k 個の非ゼロ標準的相関係数が存在することを示す。
• 標本標準的相関行列 S_xx⁻¹S_xyS_yy⁻¹S_yx を分析し、その最大 k 個の固有値 λ_i を r_i の標本対応物とみなす。
• ランダム行列理論と有限ランク摂動技術を用いて、標本行列の極限スペクトル分布を導出する。
• λ_i が r_i ≤ r_c のとき極限スペクトル分布の右端 d_r に確率1で収束し、r_i > r_c のとき (d_r, 1] 内の値に収束することを示す、臨界閾値 r_c ∈ (0,1) を特定する。

実験結果

リサーチクエスチョン

• RQ1 母集団共分散行列が有限ランクであるとき、最大の標本標準的相関固有値の漸近的挙動は何か？
• RQ2 高次元設定において、標本標準的相関行列の極限分布は真の標準的相関係数にどのように依存するか？
• RQ3 p, q → ∞ かつ p+q ∼ yn (y ∈ (0,1)) のとき、真の標準的相関係数はその標本対応物から一貫して推定可能か？
• RQ4 閾値 r_c は標本固有値の収束挙動を決定づける役割を果たすか？
• RQ5 高次元MANOVA型モデルにおいて、最大の標本固有値が真の標準的相関係数を回復できる条件は何か？

主な発見

• r_i ≤ r_c のとき、標本標準的相関固有値 λ_i は極限スペクトル分布の右端 d_r に確率1で収束する。
• r_i > r_c のとき、λ_i は区間 (d_r, 1] 内の極限に確率1で収束し、r_i に依存するため、真の r_i の一貫した回復が可能になる。
• 閾値 r_c は 0 と 1 の間であり、漸近的比 y = (p+q)/n ∈ (0,1) に依存する。
• λ_i の極限挙動は、r_c におけるフェーズ転移によって、ノイズ的固有値と信号的固有値が区別される。
• これらの結果は、p や q が n よりも大きい場合でも、高次元データにおける有限ランク標準的相関構造の推定の理論的基盤を提供する。
• 仮定 (p+q)/n → y ∈ (0,1) および p/q が 1 に収束しない条件下で収束はほとんど確実であり、高次元領域における安定性が保証される。