[논문 리뷰] Efficiency Lower Bounds for Distribution-Free Hotelling-Type Two-Sample Tests Based on Optimal Transport

Nabarun Deb, Bhaswar B. Bhattacharya외 1명|arXiv (Cornell University)|2021. 04. 05.

Statistical Methods and Inference참고 문헌 117인용 수 16

한 줄 요약

이 논문은 최적 운반(optimal transport) 기반으로 다변량, 비모수적, 정확히 분포무관(distribution-free) 검정을 제안하며, Konijn 대안 하에서 하이포테시스 검정의 점근적 효율성 하한이 Hotelling의 $T^2$와 Wilks의 우도비 검정과 일치함을 보인다. 이 방법은 파라미터 모델이나 기저 분포에 대한 지식 없이도 Hodges-Lehmann 및 Chernoff-Savage 효율성 결과를 다변량 설정으로 확장한다.

ABSTRACT

The Wilcoxon rank-sum test is one of the most popular distribution-free procedures for testing the equality of two univariate probability distributions. One of the main reasons for its popularity can be attributed to the remarkable result of Hodges and Lehmann (1956), which shows that the asymptotic relative efficiency of Wilcoxon's test with respect to Student's $t$-test, under location alternatives, never falls below 0.864, despite the former being exactly distribution-free for all sample sizes. Even more striking is the result of Chernoff and Savage (1958), which shows that the efficiency of a Gaussian score transformed Wilcoxon's test, against the $t$-test, is lower bounded by 1. In this paper we study the two-sample problem in the multivariate setting and propose distribution-free analogues of the Hotelling $T^2$ test (the natural multidimensional counterpart of Student's $t$-test) based on optimal transport and obtain extensions of the above celebrated results over various natural families of multivariate distributions. Our proposed tests are consistent against a general class of alternatives and satisfy Hodges-Lehmann and Chernoff-Savage-type efficiency lower bounds, despite being entirely agnostic to the underlying data generating mechanism. In particular, a collection of our proposed tests suffer from no loss in asymptotic efficiency, when compared to Hotelling $T^2$. To the best of our knowledge, these are the first collection of multivariate, nonparametric, exactly distribution-free tests that provably achieve such attractive efficiency lower bounds. We also demonstrate the broader scope of our methods in optimal transport based nonparametric inference by constructing exactly distribution-free multivariate tests for mutual independence, which suffer from no loss in asymptotic efficiency against the classical Wilks' likelihood ratio test, under Konijn alternatives.

연구 동기 및 목표

• 모수적 모델을 가정하지 않고도 높은 점근적 효율성을 유지하는 다변량, 비모수적, 정확히 분포무관인 두 표본 위치 문제 검정을 개발하는 것.
• 이전에는 단변량 설정에서만 알려진 Hodges-Lehmann 및 Chernoff-Savage 효율성 하한을 최적 운반을 활용해 다변량 경우로 확장하는 것.
• 일반적인 대안에 대해 일致성(consistent)이면서도 기저 데이터 생성 메커니즘에 대해 무지한(noncommittal)인 검정을 구성하는 것.
• 기존의 파라미터 검정인 Hotelling의 $T^2$와 Wilks의 우도비 검정과 비교해 점근적 효율성 손실이 발생하지 않는다는 것을 보여주는 것.
• 최적 운반의 범위를 비모수적 추론으로 확장하여 상호독립성 검정에 대한 분포무관 검정을 가능하게 하는 것.

제안 방법

• 분포무관 변환에 대해 불변인 다변량 순위 기반 검정 통계량을 정의하기 위해 최적 운반 맵을 활용한다.
• 표본 측도 간의 워셔스타인 거리(Wasserstein distance)를 기반으로 한 검정 통계량을 구성하여 귀무가설 하에서 정확한 분포무관 성질을 확보한다.
• 유사하게 단변량 설정에서 Wilcoxon 검정과 유사하게, 운반 기반 순위에 정규 스코어 변환을 적용하여 효율성 향상을 도모한다.
• 귀무가설 및 국소 대안 하에서의 점근적 분포를 도출하여 일치성과 효율성 하한을 입증한다.
• 다변량 독립성 검정 프레임워크에서 점근적 상대 효율성을 평가하기 위해 Konijn 대안의 개념을 적용한다.
• 유empirical process 이론과 최적 운반의 도구를 활용하여 유한 표본 및 점근적 분포무관 성질을 증명한다.

실험 결과

연구 질문

• RQ1 Hotelling의 $T^2$와 동일한 점근적 효율성을 달성하는 다변량, 비모수적, 정확히 분포무관인 두 표본 검정을 구성할 수 있는가?
• RQ2 최적 운반 기반 순위 통계량이 다변량 설정에서도 Hodges-Lehmann 및 Chernoff-Savage 효율성 하한을 유지하는가?
• RQ3 이러한 검정은 효율성 손실 없이 다변량 데이터의 상호독립성을 검정하는 데로 확장될 수 있는가?
• RQ4 국소 대안 하에서 운반 기반 검정의 점근적 상대 효율성은 기존의 파라미터 검정과 비교해 어떠한가?
• RQ5 제안된 프레임워크는 일반적인 다변량 분포 가족 전반에서 높은 검정력과 함께 정확한 분포무관 추론을 달성할 수 있는가?

주요 결과

• 제안된 최적 운반 기반 두 표본 검정은 정확히 분포무관이며, 위치 이동 하에서 Hotelling의 $T^2$와 비교해 점근적 상대 효율성이 최소 1을 확보한다.
• 일부 다변량 분포의 클래스에 대해, 검정은 Chernoff-Savage 효율성 하한 1을 유지하며, 이는 단변량 설정에서 정규 스코어 변환을 적용한 Wilcoxon 검정의 효율성과 일치한다.
• 복잡한 의존성 구조를 가진 대안에 대해서도 일치성이 유지된다.
• 이 방법의 변종은 Konijn 대안 하에서 Wilks의 우도비 검정과 비교해 점근적 효율성 손실이 없다.
• 이러한 강력한 효율성 하한을 명시적으로 확보하는 첫 번째 다변량, 비모수적, 분포무관 검정이다.
• 최적 운반을 통해 비모수적 다변량 추론에서 유한 표본 정확성과 높은 효율성을 달성할 수 있으며, 이는 파라미터 가정 없이도 가능하다는 것을 보여준다.