[論文レビュー] The Chi-Square Test of Distance Correlation

Cencheng Shen, Sambit Panda+1 more|arXiv (Cornell University)|Dec 27, 2019

Bayesian Methods and Mixture Models参考文献 33被引用数 8

ひとこと要約

本稿では、計算コストの高いパーミュテーション検定に代わる、高速で非パラメトリックなカイ二乗検定を、バイアス補正済みの距離相関に適用する手法を提案する。この手法は、帰無仮説の分布に対するカイ二乗近似を活用し、定数時間でp値を計算可能であり、パーミュテーション検定と同等の検出力を持つ。また、弱い条件下でも普遍的かつ一貫性があり、独立性の検定において有効である。

ABSTRACT

Distance correlation has gained much recent attention in the data science community: the sample statistic is straightforward to compute and asymptotically equals zero if and only if independence, making it an ideal choice to discover any type of dependency structure given sufficient sample size. One major bottleneck is the testing process: because the null distribution of distance correlation depends on the underlying random variables and metric choice, it typically requires a permutation test to estimate the null and compute the p-value, which is very costly for large amount of data. To overcome the difficulty, in this paper we propose a chi-square test for distance correlation. Method-wise, the chi-square test is non-parametric, extremely fast, and applicable to bias-corrected distance correlation using any strong negative type metric or characteristic kernel. The test exhibits a similar testing power as the standard permutation test, and can be utilized for K-sample and partial testing. Theory-wise, we show that the underlying chi-square distribution well approximates and dominates the limiting null distribution in upper tail, prove the chi-square test can be valid and universally consistent for testing independence, and establish a testing power inequality with respect to the permutation test.

研究の動機と目的

• 大規模データ解析における距離相関のパーミュテーション検定の高い計算コストを解消すること。
• 高い統計的検出力を維持しつつ、パーミュテーション検定の高速で非パラメトリックな代替手法を開発すること。
• 一般条件下におけるバイアス補正済み距離相関のカイ二乗検定の理論的妥当性と一貫性を確立すること。
• 提案手法を用いて、K標本および部分的検定を効率的に実行できることを実証すること。
• 既知の分布（例：t検定、F検定）を用いたすべての有効な検定の中で、カイ二乗検定が最も検出力が高いことを示すこと。

提案手法

• バイアス補正済み距離相関のためのカイ二乗検定を提案し、検定統計量として $ n \times \texttt{Dcor}_n(\textbf{X}, \textbf{Y}) $ を用いる。p値は $ p = \text{Prob}(nC < \chi^2_1 - 1) $ として計算する。
• 中心化行列 $ \mathbf{H} = \mathbf{I} - \mathbf{1}\mathbf{1}^T/n $ を用いて、距離行列 $ \mathbf{D}^\mathbf{X} $ および $ \mathbf{D}^\mathbf{Y} $ を中心化し、距離共分散を計算する。
• バイアス補正済み距離相関の漸近的帰無分布が、上側尾部においてカイ二乗分布で良好に近似されることを確立する。
• カイ二乗分布が漸近的帰無分布を支配することを証明し、小さな第一種の誤り率のもとで検定の妥当性を保証する。
• 多変量および条件付き依存構造に一般化することで、K標本および部分的検定にこのカイ二乗近似を適用する。
• 計算効率が高く、ユークリッド距離を用いた一次元データでは $ \mathcal{O}(n\log n) $ の計算量で実行可能であり、ピアソン相関と同等の速度を達成する。

実験結果

リサーチクエスチョン

• RQ1 バイアス補正済み距離相関のパーミュテーション検定に代わる、高速で非パラメトリックなカイ二乗検定が、同等の統計的検出力を維持できるか？
• RQ2 カイ二乗分布が、バイアス補正済み距離相関の漸近的帰無分布の有効で一貫性のある近似を与えるか？
• RQ3 提案されたカイ二乗検定は、多様なデータタイプや次元において、普遍的かつ一貫性があり、独立性の検定に適しているか？
• RQ4 カイ二乗検定の検出力は、パーミュテーション検定および距離相関t検定と比べてどのように異なるか？
• RQ5 カイ二乗検定は、速度や正確性を損なわずにK標本および部分的依存検定に拡張可能か？

主な発見

• シミュレーションにおいて、カイ二乗検定は標準的なパーミュテーション検定と同等の統計的検出力を達成しており、最大で0.05の検出力差にとどまる。
• カイ二乗分布は、バイアス補正済み距離相関の漸近的帰無分布を上側尾部で良好に近似し、支配する。これにより、妥当性が保証される。
• 理論的に第一種の誤り率の制御が保証されており、$ n \geq 20 $ および $ \alpha \leq 0.05 $ の条件下で、普遍的かつ一貫性がある。
• 既知の分布（例：t検定、F検定）を用いたすべての有効な検定の中で、カイ二乗検定が最も検出力が高く、検出力の不等式によりこれを証明した。
• ユークリッド距離を用いた一次元データでは、$ \mathcal{O}(n\log n) $ の時間計算量で実行可能であり、数十億件の観測値に対してもスケーラブルである。
• 強力な負のタイプの距離または特徴的カーネルであれば、任意の条件下で適用可能であり、多変量、K標本、および部分的検定の場面でも利用可能である。