[논문 리뷰] Graph-Based Tests for Two-Sample Comparisons of Categorical Data

Hao Chen, Nancy R. Zhang|arXiv (Cornell University)|2012. 08. 28.

Bayesian Modeling and Causal Inference참고 문헌 12인용 수 4

한 줄 요약

이 논문은 고차원적이고 희박한 순서통계표에서 범주형 데이터의 이항 비교를 위한 그래프 기반 비모수적 방법을 제안한다. 최소 스패닝 트리(MST)와 최소 거리 쌍화(pairing, MDP)를 통해 범주 간 유사성을 활용함으로써, 범주형 데이터에서 흔히 발생하는 동일한 거리(타이드) 문제를 해결하고, 점점 높아지는 검정력과 빠른 계산 성능을 달성한다. 또한 순열 기반 귀무분포는 渐近적으로 정규분포를 따르며, 정확한 p-값 근사치를 제공한다.

ABSTRACT

We study the problem of two-sample comparison with categorical data when the contingency table is sparsely populated. In modern applications, the number of categories is often comparable to the sample size, causing existing methods to have low power. When the number of categories is large, there is often underlying structure on the sample space that can be exploited. We propose a general non-parametric approach that utilizes similarity information on the space of all categories in two sample tests. Our approach extends the graph-based tests of Friedman and Rafsky (1979) and Rosenbaum (2005), which are tests base on graphs connecting observations by similarity. Both tests require uniqueness of the underlying graph and cannot be directly applied on categorical data. We explored different ways to extend graph-based tests to the categorical setting and found two types of statistics that are both powerful and fast to compute. We showed that their permutation null distributions are asymptotically normal and that their $p$-value approximations under typical settings are quite accurate, facilitating the application of the new approach. The approach is illustrated through several examples.

연구 동기 및 목표

• 희박성과 고차원성으로 인해 기존卡-제곱검정과 정확검정의 통계적 검정력이 낮아지는 상황에서, 두 표본 간의 범주형 데이터 검정 문제를 해결하기 위해.
• 기존 방법이 희박한 순서통계표로 인해 실패하는 상황—예를 들어 랭킹, 히플로타입, 단어 빈도 등에서의 범주 간 잠재적 유사성 구조를 활용하기 위해.
• 기존의 그래프 기반 검정(Friedman & Rafsky, Rosenbaum)을 확장하여, 동일한 거리로 인해 유일하지 않은 그래프가 발생하는 문제를 해결함으로써, 범주형 데이터에 적용 가능하도록 하기 위해.
• 실제 응용에 적합한 계산 효율성이 높고, 渐近적으로 정규분포를 따르는 귀무분포와 정확한 p-값 근사치를 제공하는 통계량을 개발하기 위해.

제안 방법

• 모든 가능한 MST를 고려하는 aMST와 모든 MST의 합집합을 사용하는 uMST를 기반으로 하는 두 가지 검정 통계량을 제안하며, 모두 범주 수준의 유사성으로 간선을 정의한다.
• Eppstein(1995)의 슬라이딩 변환 알고리즘을 활용해 범주 공간에서 모든 MST를 효율적으로 열거함으로써, aMST 통계량의 정확한 계산을 가능하게 한다.
• 범주 간 최소 거리 쌍화(MDP)를 적용하여 두 번째 검정 통계량 R_x를 정의하며, 대칭성 하에서의 귀무분포를 조합론적으로 유도한다.
• 완전 매칭의 조합론적 성질을 활용해 MDP 기반 통계량 R_x의 정확한 귀무분포를 유도하며, 그룹 크기가 짝수인지 홀수인지에 따라 고려한다.
• 홀수의 전체 표본 크기를 처리하기 위해 가짜 범주 기법을 사용하여 거리가 0인 주체를 추가한 후, 그에 해당하는 간선을 제거한다.
• 두 통계량 모두 K² + M 시간 복잡도로 계산되며, 여기서 M은 스패닝 트리의 수이므로, K가 클 경우에도 확장 가능한 방법이다.

실험 결과

연구 질문

• RQ1 동일한 거리가 존재하고 희박한 순서통계표를 가진 범주형 데이터에 대해 그래프 기반 이항 검정을 효과적으로 확장할 수 있는가?
• RQ2 범주 간 유사성 정보를 어떻게 활용하여 고차원적 범주형 검정에서 검정력을 향상시킬 수 있는가?
• RQ3 동일한 거리로 인해 여러 개의 MST나 MDP가 존재할 경우, 그래프 기반 검정 통계량의 정확한 귀무분포는 어떻게 유도할 수 있는가?
• RQ4 이러한 통계량에 대한 p-값 근사치는 충분히 정확하여 전체 순열 검정을 피할 수 있는가?
• RQ5 통계량의 계산 복잡도는 범주의 수에 따라 어떻게 변화하며, 실세계 응용에 적합한 효율적 알고리즘이 개발될 수 있는가?

주요 결과

• 제안된 aMST 및 uMST 통계량은 모두 높은 검정력과 계산 효율성을 보이며, 시간 복잡도가 O(K² + M)이다. 여기서 M은 스패닝 트리의 수이다.
• 두 통계량의 순열 기반 귀무분포는 渐近적으로 정규분포를 따르므로, 전체 순열 샘플링 없이도 정확한 p-값 근사치를 제공할 수 있다.
• MDP 기반 통계량 R_x의 정확한 귀무분포는 조합론적 방법으로 유도되었으며, i개의 크로스 그룹 간선을 가진 쌍화의 수에 대한 닫힌 형태의 표현식이 존재한다.
• 일반적인 설정 하에서 두 통계량의 p-값 근사치는 정확하여, 계산 비용이 큰 순열 샘플링에 대한 의존도를 줄였다.
• 동일한 거리 문제를 uMST와 aMST를 활용해 해결함으로써, 이전 그래프 기반 검정의 핵심 한계를 극복하였다.
• 실세계 문제—예를 들어 선호도 랭킹, 히플로타입 연관성, 문서 비교—에서 검증되었으며, 기존 방법이 희박성으로 인해 실패하는 상황에서도 성공적으로 작동하였다.