[논문 리뷰] Two-sample Statistics Based on Anisotropic Kernels

Xiuyuan Cheng, Alexander Cloninger외 1명|arXiv (Cornell University)|2017. 09. 14.

Statistical Methods and Inference참고 문헌 17인용 수 8

한 줄 요약

이 논문은 고차원 확률 분포 간 이표본 가설 검정을 위한 새로운 비등방성 커널 기반 최대 평균 차이(MMD) 통계량을 제안한다. 국소 공분산 구조를 활용해 참조 집합을 축소시킨 비대칭 커널을 구성함으로써, 국소적으로 낮은 질서의 분포에 대해 검정력 향상과 함께 계산 비용 감소를 달성한다. 이론적으로 온건한 가정 하에 일致성이 입증되었으며, 유세포 분석 및 확산 영상 자기공명 영상 데이터에서 검증되었다.

ABSTRACT

The paper introduces a new kernel-based Maximum Mean Discrepancy (MMD) statistic for measuring the distance between two distributions given finitely-many multivariate samples. When the distributions are locally low-dimensional, the proposed test can be made more powerful to distinguish certain alternatives by incorporating local covariance matrices and constructing an anisotropic kernel. The kernel matrix is asymmetric; it computes the affinity between $n$ data points and a set of $n_R$ reference points, where $n_R$ can be drastically smaller than $n$. While the proposed statistic can be viewed as a special class of Reproducing Kernel Hilbert Space MMD, the consistency of the test is proved, under mild assumptions of the kernel, as long as $\|p-q\| \sqrt{n} o \infty $, and a finite-sample lower bound of the testing power is obtained. Applications to flow cytometry and diffusion MRI datasets are demonstrated, which motivate the proposed approach to compare distributions.

연구 동기 및 목표

• 표준 MMD가 성능을 발휘하지 못하는 고차원, 국소적으로 낮은 질서의 분포에 대해 더 강력한 이표본 검정을 개발하기 위해.
• 전체 데이터 행렬 대신 작은 참조 집합을 사용하여 커널 기반 이표본 검정의 계산 및 메모리 비용을 줄이기 위해.
• 국소 공분산 행렬을 통한 국소 기하 구조에 적응하는 커널 형태를 통해 미세한 분포 차이를 탐지함으로써 검정의 민감도를 향상시키기 위해.
• 약한 가정 하에 이론적으로 일치성이 보장되는 검정을 제공하여 표본 수가 증가함에 따라 渐近적 타당성을 확보하기 위해.
• 분포의 변화가 생물학적으로 의미 있는 변화를 나타내는 생물학적 데이터 분석, 특히 흐름 세포 측정 및 확산 영상 자기공명 영상에 실용적으로 적용 가능하게 하기 위해.

제안 방법

• 국소 공분산 행렬을 사용해 국소 데이터 기하 구조에 따라 적응적으로 커널을 형태화하는 비등방성 커널을 구성한다.
• 전체 데이터 포인트 수 $ n $ 에 비해 훨씬 작은 참조 집합 크기 $ n_R \ll n $ 를 사용하여, 데이터 포인트와 참조 포인트 간의 비대칭 유사도 행렬을 계산한다.
• 커널 연산자의 스펙트럼 기저에 대한 히스토그램 사영의 차이의 $ L^2 $-노름으로 커널 기반 MMD 통계량을 정의한다.
• 커널의 스펙트럼 성질을 분석하기 위해 스펙트럼 분해를 적용하고, 유한 표본에서의 검정력에 대한 하한을 유도한다.
• 분산 감소 및 국소 이탈에 대한 민감도 향상을 위해 스펙트럼 스무딩과 가중 히스토그램 추정을 통합한다.
• 이표본 검정을 스펙트럼 임bedding 공간에서의 평균 이동 검정으로 재정의함으로써, 표준 평균 이동 통계량의 사용이 가능해진다.

실험 결과

연구 질문

• RQ1 고차원 공간에서 국소적으로 낮은 질서의 분포일 경우, 비등방성 커널이 이표본 MMD 검정의 검정력을 향상시킬 수 있는가?
• RQ2 작은 참조 집합을 사용할 경우, 커널 기반 MMD의 일치성과 계산 효율성은 어떻게 영향을 받는가?
• RQ3 일반적인 가정 하에 제안된 검정에 대해 어떤 이론적 보장이 존재하는가? 특히 渐近적 일치성에 관해?
• RQ4 이 방법은 분포 간 국소적 차이를 어떻게 탐지할 수 있으며, 국소적 p-값을 제공하기 위해 어떻게 수정될 수 있는가?
• RQ5 흐름 세포 측정 및 확산 영상 자기공명 영상과 같이 미세한 분포 이동이 생물학적으로 의미 있는 실제 생물학적 데이터셋에 효과적으로 적용될 수 있는가?

주요 결과

• 제안된 비등방성 커널 MMD는 공분산 기반 커널 설계를 통해 국소 기하 구조에 적응함으로써, 국소적으로 낮은 질서의 분포에 대해 등방성 MMD보다 더 높은 검정력을 달성한다.
• 모든 고정된 편차가 $ O(n^{-1/2}) $ 임계 영역을 초월할 경우, 조건 $ \|p - q\|\sqrt{n} \to \infty $ 를 만족함으로써 渐近적 일치성이 보장된다.
• 커널 연산자의 스펙트럼 분해를 기반으로 유한 표본에서의 검정력 하한이 도출되었으며, 이는 검정력과 고유구조 간의 연관성을 밝혀낸다.
• 흐름 세포 측정 및 확산 영상 자기공명 영상 데이터셋에 대한 적용 결과, 기존 표준 검정이 포착하지 못한 생물학적으로 의미 있는 분포 차이를 효과적으로 탐지함을 보였다.
• 스펙트럼 임bedding 프레임워크 덕분에 일반적인 대립가설을 저차원 공간에서의 평균 이동 대립가설로 변환할 수 있었고, 이로써 표준 파rametric 검정의 사용이 가능해졌다.
• 참조 집합을 사용함으로써 메모리 및 계산 비용을 크게 감소시켰으며, $ n_R \ll n $ 인 동안 통계적 검정력과 일치성을 유지하였다.