[논문 리뷰] Nonparametric Independence Testing for Small Sample Sizes

Aaditya Ramdas, Leila Wehbe|arXiv (Cornell University)|2014. 06. 07.

Advanced Statistical Methods and Models참고 문헌 13인용 수 5

한 줄 요약

이 논문은 작고 비모수적 독립성 검정에서의 통계적 검정력 저하 문제를 해결하기 위해, 선형(스코스)과 비선형(피코스) 수축 추정기인 스파이크 추정기를 사용하여 힐버트-슈미트 독립성 기준(HSIC)의 통계적 검정력을 향상시키는 것을 제안한다. 표본 수가 적을 경우, 경험적 교차공분산 연산자 추정기의 분산을 줄이는 수축은 미세한 비선형 의존성을 더 잘 탐지할 수 있도록 도와주며, 피코스는 항상 스토스와 비수축된 HSIC보다 검정력에서 뛰어난 성능을 보인다.

ABSTRACT

This paper deals with the problem of nonparametric independence testing, a fundamental decision-theoretic problem that asks if two arbitrary (possibly multivariate) random variables $X,Y$ are independent or not, a question that comes up in many fields like causality and neuroscience. While quantities like correlation of $X,Y$ only test for (univariate) linear independence, natural alternatives like mutual information of $X,Y$ are hard to estimate due to a serious curse of dimensionality. A recent approach, avoiding both issues, estimates norms of an extit{operator} in Reproducing Kernel Hilbert Spaces (RKHSs). Our main contribution is strong empirical evidence that by employing extit{shrunk} operators when the sample size is small, one can attain an improvement in power at low false positive rates. We analyze the effects of Stein shrinkage on a popular test statistic called HSIC (Hilbert-Schmidt Independence Criterion). Our observations provide insights into two recently proposed shrinkage estimators, SCOSE and FCOSE - we prove that SCOSE is (essentially) the optimal linear shrinkage method for extit{estimating} the true operator; however, the non-linearly shrunk FCOSE usually achieves greater improvements in extit{test power}. This work is important for more powerful nonparametric detection of subtle nonlinear dependencies for small samples.

연구 동기 및 목표

• 표본 수가 적을 경우 비모수적 독립성 검정에서 낮은 통계적 검정력 문제를 해결하기 위해.
• 경험적 교차공분산 연산자 추정기의 수축이 HSIC의 검정력을 향상시킬 수 있는지 조사하기 위해.
• 비선형 의존성을 미세하게 탐지하는 데 있어 선형(스코스)과 비선형(피코스) 수축 추정기의 성능을 비교하기 위해.
• 작은 표본에서 비모수적 독립성 검정에 수축을 적용할 때의 경험적 및 이론적 근거를 제공하기 위해.

제안 방법

• 검정 통계량으로 힐버트-슈미트 독립성 기준(HSIC)을 사용하며, 이는 경험적 교차공분산 연산자의 제곱 힐버트-슈미트 노름으로 정의된다.
• 경험적 교차공분산 연산자 추정기 $ S_{XY} $ 에 대해 스틴 수축을 적용하며, 중심화된 커널 행렬 $ \widetilde{K}, \widetilde{L} $ 을 사용하여 HSIC를 $ \mathrm{HSIC} = \frac{1}{n^2}\mathrm{tr}(\widetilde{K}\widetilde{L}) $ 로 계산한다.
• 교차검증 추정기(스코스)를 통한 선형 수축을 적용하며, 이는 진정한 연산자 추정에 있어 모든 선형 수축 추정기 중에서 최적이 되는 것으로 입증된다.
• 융합 교차검증 추정기(피코스)를 통한 비선형 수축을 적용하며, 이는 스토스보다 더 큰 검정력 향상을 경험적으로 달성한다.
• 퍼미터테이션 테스팅을 사용하여 검정 통계량의 근본 분포를 추정하며, 비수축된 버전과 수축된 버전을 비교한다.
• 수축이 비퍼미터타이드 통계량의 근본 분포의 우측 尾부 위치에 미치는 영향을 분석한다.

실험 결과

연구 질문

• RQ1 경험적 교차공분산 연산자 추정기의 수축이 작은 표본 크기에서 HSIC의 통계적 검정력을 향상시킬 수 있는가?
• RQ2 이 맥락에서 진정한 교차공분산 연산자에 대해 스토스는 최적의 선형 수축 추정기인가?
• RQ3 비선형 수축(피코스)이 선형 수축(스코스)보다 더 큰 검정력 향상을 제공하는가?
• RQ4 왜 수축은 특히 근본 분포의 오른쪽 꼬리에서 검정력을 향상시키는가?
• RQ5 수축이 성능을 떨어뜨리지 않는 조건은 언제이며, 어떤 경우에 비합리적인가?

주요 결과

• 경험적 교차공분산 연산자 추정기의 수축은 작은 표본에서 특히 낮은 유의수준에서 HSIC의 검정력을 일관되게 향상시킨다.
• 스코스는 진정한 연산자를 추정하는 데 있어 모든 선형 수축 방법 중에서 최적이 되는 것으로 입증된다.
• 비선형 수축 추정기인 피코스는 일반적으로 스토스와 비수축된 HSIC보다 더 높은 검정력 향상을 달성한다.
• 향상 효과는 수축이 근본 분포의 분산을 비퍼미터타이드 검정 통계량보다 더 크게 줄이기 때문에 발생하며, 이로 인해 후자가 근본 분포의 오른쪽 꼬리에서 더 두드러지게 나타난다.
• 모든 시뮬레이션 및 실세계 데이터셋에서, 수축은 실용적 관심 영역(낮은 유의수준)에서 검정력을 향상시키거나 최소한 악화시키지 않았다.
• 결과는 신경과학 및 인과관계 연구와 같은 작은 표본 과학 응용 분야에서 미세한 비선형 의존성을 탐지하는 데 있어 수축이 유용한 도구임을 시사한다.