[論文レビュー] Generalized kernel distance covariance in high dimensions: non-null CLTs and power universality

Qiyang Han, Yandi Shen|arXiv (Cornell University)|Jun 14, 2021

Statistical Methods and Bayesian Inference参考文献 28被引用数 4

ひとこと要約

本論文は、ガウス分布の仮定の下で、高次元における標本一般化カーネル距離分散共分散の最初の非零中心極限定理（CLT）を確立した。また、普遍性現象を明らかにした：検出力は、カーネルの選択に依存せず、$ n \cdot \text{dCor}^2(X,Y)/\sqrt{2} $ のみによって漸近的に決定され、このレートはミニマックス的に最適である。

ABSTRACT

Distance covariance is a popular dependence measure for two random vectors $X$ and $Y$ of possibly different dimensions and types. Recent years have witnessed concentrated efforts in the literature to understand the distributional properties of the sample distance covariance in a high-dimensional setting, with an exclusive emphasis on the null case that $X$ and $Y$ are independent. This paper derives the first non-null central limit theorem for the sample distance covariance, and the more general sample (Hilbert-Schmidt) kernel distance covariance in high dimensions, primarily in the Gaussian case. The new non-null central limit theorem yields an asymptotically exact first-order power formula for the widely used generalized kernel distance correlation test of independence between $X$ and $Y$. The power formula in particular unveils an interesting universality phenomenon: the power of the generalized kernel distance correlation test is completely determined by $n\cdot ext{dcor}^2(X,Y)/\sqrt{2}$ in the high dimensional limit, regardless of a wide range of choices of the kernels and bandwidth parameters. Furthermore, this separation rate is also shown to be optimal in a minimax sense. The key step in the proof of the non-null central limit theorem is a precise expansion of the mean and variance of the sample distance covariance in high dimensions, which shows, among other things, that the non-null Gaussian approximation of the sample distance covariance involves a rather subtle interplay between the dimension-to-sample ratio and the dependence between $X$ and $Y$.

研究の動機と目的

• 標本距離共分散の非零極限分布を導出することで、高次元的従属検定における理論的ギャップを埋める。
• 従属下での一般化カーネル距離相関検定の漸近的検出力を特徴づける。
• カーネルおよびバンド幅の選択に依存しない検出力の普遍性現象を確立する。
• 高次元的従属を検出するための分離レート $ n \cdot \text{dCor}^2(X,Y)/\sqrt{2} $ のミニマックス最適性を証明する。

提案手法

• 次元対標本数比と従属の相互作用を捉えるために、標本距離共分散の平均および分散の高次元的精密展開を導出する。
• 標本距離共分散のU統計量形式にホーフィング分解を適用し、その成分を分離する。
• ポアンカーリ不等式と剰余推定を用いて、展開における高階項を制御する。
• 切断された距離共分散統計量の正規近似を確立する。
• 従属下のU統計量における非i.i.d.構造を扱うために、独創的な切断および対称化戦略を採用する。
• モーメント展開と集中不等式を組み合わせることで、ガウス仮定の下での非零CLTを導出する。

Figure 1 . Verification of CLTs. Solid lines correspond to the standard normal quantiles, and dashed lines correspond to sample quantiles with the identity, Gaussian, and Laplace kernels, respectively. Simulation parameters: $(n,p,q)=(1000,100,100)$ , $B=200$ replications, bandwidth choices $\rho_{X

実験結果

リサーチクエスチョン

• RQ1 高次元における標本一般化カーネル距離共分散の非零極限分布は何か？
• RQ2 従属下で一般化カーネル距離相関検定の検出力はどのように漸近的に振る舞うか？
• RQ3 検定の検出力は、異なるカーネル選択およびバンド幅パラメータに対して普遍的か？
• RQ4 高次元的設定における従属を検出するための最適分離レートは何か？
• RQ5 発散する次元を伴うガウス仮定の下でも、非零CLTを導出可能か？

主な発見

• ガウス性の仮定の下で、高次元における標本一般化カーネル距離共分散の最初の非零中心極限定理が確立された。
• 一般化カーネル距離相関検定の漸近的検出力は、カーネルおよびバンド幅の選択に依存せず、$ n \cdot \text{dCor}^2(X,Y)/\sqrt{2} $ のみによって完全に決定される。
• この分離レート $ n \cdot \text{dCor}^2(X,Y)/\sqrt{2} $ が、高次元的設定における従属検出においてミニマックス的に最適であることが示された。
• 非零ガウス近似には、次元対標本数比と $ X $ と $ Y $ 間の従属構造との間で微妙な相互作用が関与している。
• 標本距離共分散の平均および分散が高次元で正確に展開され、クロス共分散行列の重要な役割が明らかになった。
• 検出力の公式により、検定の検出力に対する漸近的正確な一次近似が得られ、高次元的従属検定における正確な検出力分析が可能になった。

Figure 2 . Verification of power universality in choice of bandwidth parameter (left and middle) and choice of kernel (right). Solid lines correspond to the standard normal quantiles, and dashed lines correspond to sample quantiles.