[논문 리뷰] The Chi-Square Test of Distance Correlation

Cencheng Shen, Sambit Panda외 1명|arXiv (Cornell University)|2019. 12. 27.

Bayesian Methods and Mixture Models참고 문헌 33인용 수 8

한 줄 요약

이 논문은 계산 비용이 높은 순열 검정을 대체하는 빠르고 비모수적인 카이제곱 검정을 제안한다. 이 검정은 근사적으로 근사된 근본 분포를 사용하여 상수 시간 내에 p-값을 계산할 수 있으며, 순열 검정과 유사한 검정력을 유지한다. 이는 온전한 일致성과 타당성을 갖추고 있으며, 약한 조건 하에서 독립성 검정에 적용 가능하다.

ABSTRACT

Distance correlation has gained much recent attention in the data science community: the sample statistic is straightforward to compute and asymptotically equals zero if and only if independence, making it an ideal choice to discover any type of dependency structure given sufficient sample size. One major bottleneck is the testing process: because the null distribution of distance correlation depends on the underlying random variables and metric choice, it typically requires a permutation test to estimate the null and compute the p-value, which is very costly for large amount of data. To overcome the difficulty, in this paper we propose a chi-square test for distance correlation. Method-wise, the chi-square test is non-parametric, extremely fast, and applicable to bias-corrected distance correlation using any strong negative type metric or characteristic kernel. The test exhibits a similar testing power as the standard permutation test, and can be utilized for K-sample and partial testing. Theory-wise, we show that the underlying chi-square distribution well approximates and dominates the limiting null distribution in upper tail, prove the chi-square test can be valid and universally consistent for testing independence, and establish a testing power inequality with respect to the permutation test.

연구 동기 및 목표

• 대규모 데이터 분석에서 거리 상관계수의 순열 검정에 따른 높은 계산 비용을 해결한다.
• 유사한 통계적 검정력을 유지하면서도 빠르고 비모수적인 순열 검정의 대안을 개발한다.
• 일반 조건 하에서 비편향 보정 거리 상관계수의 카이제곱 검정의 이론적 타당성과 일致성을 확립한다.
• 제안된 방법을 사용하여 효율적인 K표본 및 부분 검정을 가능하게 한다.
• 기존 분포(예: t-검정, F-검정)를 사용하는 모든 타당한 검정 중에서 카이제곱 검정이 가장 높은 검정력을 갖는지 입증한다.

제안 방법

• 편향 보정 거리 상관계수를 위한 카이제곱 검정을 제안하며, 검정 통계량은 $ n \times \texttt{Dcor}_n(\textbf{X}, \textbf{Y}) $ 이다. p-값은 $ p = \text{Prob}(nC < \chi^2_1 - 1) $ 로 계산된다.
• 중앙화된 거리 행렬 $ \mathbf{D}^\mathbf{X} $ 과 $ \mathbf{D}^\mathbf{Y} $ 을 사용하여 거리 공분산을 계산하며, 중심화에는 중심화 행렬 $ \mathbf{H} = \mathbf{I} - \mathbf{1}\mathbf{1}^T/n $ 이 사용된다.
• 편향 보정 거리 상관계수의 점근적 근본 분포가 상위 尾부에서 카이제곱 분포에 잘 근사됨을 입증한다.
• 카이제곱 분포가 점근적 근본 분포를 지배함을 증명하여, 소형 제1종 오류 수준 하에서도 타당성을 보장한다.
• 다변량 및 조건부 의존성 구조로의 카이제곱 근사 확장을 통해 K표본 및 부분 검정에 적용한다.
• 이 방법이 계산적으로 효율적이며, 유클리드 거리와 일차원 데이터의 경우 $ \mathcal{O}(n\log n) $ 복잡도를 갖는다. 이는 피어슨 상관계수의 속도와 동일하다.

실험 결과

연구 질문

• RQ1 빠르고 비모수적인 카이제곱 검정이 거리 상관계수의 순열 검정을 대체하면서도 동일한 통계적 검정력을 유지할 수 있는가?
• RQ2 카이제곱 분포가 비편향 보정 거리 상관계수의 점근적 근본 분포에 대해 타당하고 일치하는 근사로 작용하는가?
• RQ3 제안된 카이제곱 검정은 다양한 데이터 유형과 차원에서 독립성 검정에 대해 온전한 일치성과 타당성을 갖는가?
• RQ4 카이제곱 검정의 검정력은 순열 검정 및 거리 상관계수 t-검정과 비교해 어떻게 다른가?
• RQ5 카이제곱 검정은 속도나 정확도를 잃지 않고 K표본 및 부분 의존성 검정으로 확장될 수 있는가?

주요 결과

• 시뮬레이션 결과, 카이제곱 검정은 표준 순열 검정과 유사한 통계적 검정력을 보이며, 최대 검정력 차이가 0.05 이내이다.
• 카이제곱 분포는 비편향 보정 거리 상관계수의 점근적 근본 분포를 상위 꼬리에서 잘 근사하며, 지배함으로써 타당성을 보장한다.
• 이 방법은 $ n \geq 20 $ 이고 $ \alpha \leq 0.05 $ 인 조건에서 온전한 일치성과 타당성을 갖는다. 제1종 오류 통제에 대한 이론적 보장이 있다.
• 카이제곱 검정은 기존 분포(예: t-검정, F-검정)를 사용하는 모든 타당한 검정 중에서 가장 높은 검정력을 갖는다. 검정력 부등식을 통해 이를 증명하였다.
• 일차원 데이터와 유클리드 거리의 경우, 이 방법은 $ \mathcal{O}(n\log n) $ 시간 내에 실행되며, 수십억 건의 관측치에까지 확장 가능하다.
• 이 방법은 어떤 강한 음성 유형 거리 또는 특징 커널에도 적용 가능하므로, 다변량, K표본, 부분 검정 응용에 활용 가능하다.