[논문 리뷰] Two-sample Testing for Large, Sparse High-Dimensional Multinomials under Rare/Weak Perturbations

David L. Donoho, Alon Kipnis|arXiv (Cornell University)|2020. 07. 03.

Statistical Methods and Inference참고 문헌 22인용 수 4

한 줄 요약

이 논문은 희박한 고차원 다항분포에서 희귀/약한 교란 조건 하에 두 표본의 동질성에 대한 Higher Criticism 기반 검정을 개발한다. N개의 카테고리에서 정확한 이항검정의 P-값을 조합함으로써, (β,r)-평면에서 검정의 검정력이 점점 커지는 단계 전이를 규명하며, 이는 희박한 설정에서 정규분포 평균 모델과 유사한 성능을 보인다.

ABSTRACT

Given two samples from possibly different discrete distributions over a common set of size $N$, consider the problem of testing whether these distributions are identical, vs. the following rare/weak perturbation alternative: the frequencies of $N^{1-\beta}$ elements are perturbed by $r(\log N)/2n$ in the Hellinger distance, where $n$ is the size of each sample. We adapt the Higher Criticism (HC) test to this setting using P-values obtained from $N$ exact binomial tests. We characterize the asymptotic performance of the HC-based test in terms of the sparsity parameter $\beta$ and the perturbation intensity parameter $r$. Specifically, we derive a region in the $(\beta,r)$-plane where the test asymptotically has maximal power, while having asymptotically no power outside this region. Our analysis distinguishes between the cases of dense ($N\gg n$) and sparse ($N\ll n$) contingency tables. In the dense case, the phase transition curve matches that of an analogous two-sample normal means model.

연구 동기 및 목표

• 오직 소수의 카테고리만 교란되는 고차원 이산분포에서의 두 표본 동질성 검정 문제를 다루는 것.
• 교란을 희귀(원소 수가 N^{1−β})이고 약한(헬링거 거리로 r(log N)/(2n) 크기)으로 모델링함으로써 현실적인 희박한 신호 상황을 반영하는 것.
• 각 카테고리에 대해 정확한 이항검정의 P-값을 사용하여 Higher Criticism 검정을 다항분포 설정에 적응시키는 것.
• 희박성 β와 교란 강도 r에 따라 점점 커지는 검출 경계의 점근적 특성을 규명하는 것.
• 밀도가 높은(N ≫ n) 및 희박한(N ≪ n) 교차표 설정 간 성능을 비교하는 것.

제안 방법

• 두 표본 크기가 각각 n인 경우, 귀무가설(두 표본 간 동일한 분포) 하에서 N개의 카테고리 각각에 대해 정확한 이항검정의 P-값을 계산한다.
• 이 P-값들은 균일한 귀무분포에서의 이탈을 탐지하기 위해 Higher Criticism(HC) 통계량을 사용해 집계된다.
• 검정 통계량은 오직 N^{1−β}개의 카테고리만 교란되며, 헬링거 거리로 r(log N)/(2n) 크기의 교란이 있다고 가정하여 유도된다.
• N → ∞의 극한에서 점근적 검정력 분석을 수행하며, 이는 밀도가 높은(N ≫ n) 및 희박한(N ≪ n) 설정 간의 차이를 구분한다.
• 대안 하에서 HC 통계량의 행동을 분석함으로써 단계 전이 곡선을 유도하며, 검출 가능한 교란과 검출 불가능한 교란 사이의 경계를 규명한다.
• 검출 한계를 규명하기 위해 극값 이론과 P-값의 꼬리 행동을 활용한다.

실험 결과

연구 질문

• RQ1 고차원 다항분포에서 희귀/약한 교란을 탐지하기 위해 Higher Criticism 검정이 점점 커지는 검정력의 (β,r)-평면 내 어떤 영역에서 점근적으로 최적의 성능을 발휘하는가?
• RQ2 이 설정에서 밀도가 높은 및 희박한 교차표 설정 간에 HC 기반 검정의 성능은 어떻게 비교되는가?
• RQ3 밀도가 높은 설정에서 다항분포 두 표본 검정의 검출 경계는 유사한 두 표본 정규분포 평균 모델의 경계와 일치하는가?
• RQ4 정확한 이항 P-값은 어떻게 약한 및 희박한 대안 하에서 검출 가능성을 가능하게 하는가?
• RQ5 희박성 매개변수 β는 고차원 이산자료에서 교란의 검출 가능성에 어떻게 영향을 미치는가?

주요 결과

• HC 기반 검정은 (β,r)-평면의 특정 영역 내에서 점근적으로 최대 검정력을 발휘하며, 이는 단계 전이 곡선으로 정의된다.
• 이 영역 외부에서는 검정이 점근적으로 검정력을 잃으며, 날카운 검출 경계가 있음을 시사한다.
• 밀도가 높은 설정(N ≫ n)에서는 다항분포 검정의 단계 전이 곡선이 두 표본 정규분포 평균 모델의 곡선과 일치한다.
• 이 방법은 희박한 설정(N ≪ n)에서도 효과적이며, 밀도가 높은 경우와는 다른 검출 경계를 보인다.
• 정확한 이항 P-값의 사용은 기존 카이제곱 검정이 놓칠 수 있는 약한, 희박한 교란에 대한 감도를 향상시킨다.
• 분석 결과, 이 고차원적, 희박한, 희귀/약한 설정에서 Higher Criticism 접근법이 최적임을 확인한다.