[논문 리뷰] Multivariate Brenier cumulative distribution functions and their application to non-parametric testing

Melf Boeckel, Vladimir Spokoiny외 1명|arXiv (Cornell University)|2018. 09. 11.

Machine Learning and Algorithms참고 문헌 19인용 수 15

한 줄 요약

이 논문은 순환 단조 최적 운반 맵를 이용해 다변량 Brenier 누적분포함수(ν-BDF)를 도입하여 단일변량 CDF를 고차원으로 일반화한다. 콤팩트한 볼록 집합 N 위의 목표 측도 ν로 측도 μ를 후행시키는 방식으로, 2-Wasserstein 거리에 기반한 비모수적 두 표본 검정을 가능하게 하며, 균일 수렴성을 확보하고 유한 표본 오차 한계를 제공한다.

ABSTRACT

In this work we introduce a novel approach of construction of multivariate cumulative distribution functions, based on cyclical-monotone mapping of an original measure $μ\in \mathcal{P}^{ac}_2(\mathbb{R}^d)$ to some target measure $ν\in \mathcal{P}^{ac}_2(\mathbb{R}^d)$ , supported on a convex compact subset of $\mathbb{R}^d$. This map is referred to as $ν$-Brenier distribution function ($ν$-BDF), whose counterpart under the one-dimensional setting $d = 1$ is an ordinary CDF, with $ν$ selected as $\mathcal{U}[0, 1]$, a uniform distribution on $[0, 1]$. Following one-dimensional frame-work, a multivariate analogue of Glivenko-Cantelli theorem is provided. A practical applicability of the theory is then illustrated by the development of a non-parametric pivotal two-sample test, that is rested on $2$-Wasserstein distance.

연구 동기 및 목표

• 균일 수렴성 같은 핵심 성질을 유지하는 자연스러운 다변량 CDF 일반화의 부족을 해결한다.
• 기본 분포에 대한 제한적인 가정이 없는 다변량 데이터를 위한 비모수적 두 표본 검정을 개발한다.
• 순환 단조성과 최적 운반을 이용한 이론적 기반을 제공하여 다변량 분포함수를 수립한다.
• 최소한의 분포 가정 하에 비모수적 검정에서 제1종 오류 및 제2종 오류의 유한 표본 오차 한계를 제공한다.

제안 방법

• N를 ℝᵈ 내의 콤팩트한 볼록 집합으로 하고, N 위의 연속적인 목표 측도 ν에 대해, μ의 지지집합에서 N로의 순환 단조 맵 F: supp(μ) → N로 ν-Brenier 분포함수(ν-BDF)를 정의한다.
• Brenier의 극분해 정리를 이용해 측도를 유지하고 순환 단조적인 맵 T를 구성함으로써 μ를 ν로 후행시키며 기하학적 정밀도를 확보한다.
• empirical ν-BDF에 대한 다변량 Glivenko–Cantelli 정리를 수립하여, 경험 과정이 진짜 분포함수로의 균일 수렴성을 증명한다.
• 두 표본의 경험적 ν-BDF 간의 2-Wasserstein 거리에 기반한 핵심 통계량을 사용하여, 사전에 몬테카를로 시뮬레이션을 통해 계산된 임계값 zₙₘ(α)을 활용한 핵심 두 표본 검정을 구성한다.
• 알고리즘 2를 통해 단위 구 내 균일 격자에 대한 i.i.d. 순열을 생성하여, H₀ 하에서의 귀무분포를 시뮬레이션하고 임계값 zₙₘ(α)를 계산한다.
• 고정된 균일 격자에서 분위수를 생성함으로써 제1종 오류를 제어하며, 이로 인해 검정이 핵심적이며 표본 분포와 독립적이게 된다.

실험 결과

연구 질문

• RQ1 균일 수렴성과 같은 핵심 통계적 성질을 유지하면서 단일변량 CDF를 일반화한 다변량 누적분포함수는 어떻게 구성할 수 있는가?
• RQ2 순환 단조 맵를 통한 최적 운반은 기하학적으로 의미 있고 통계적으로 타당한 다변량 CDF 프레임워크를 제공할 수 있는가?
• RQ3 2-Wasserstein 거리에 기반한 비모수적 두 표본 검정의 유한 표본 행동은 어떻게 되는가?
• RQ4 기본 분포에 대한 지식이 없이도 제1종 오류를 제어할 수 있는 핵심 검정을 구성할 수 있는가?

주요 결과

• 제안된 ν-Brenier 분포함수는 CDF의 유효한 다변량 일반화를 제공하며, 경험 과정의 균일 수렴성을 보장하는 다변량 Glivenko–Cantelli 정리에 기반한다.
• 경험적 ν-BDF 간의 2-Wasserstein 거리에 기반한 두 표본 검정은 핵심적이며, 제1종 오류는 고정된 균일 격자에서 사전에 계산된 임계값을 통해 제어된다.
• 제2종 오류에 대한 상한은 βₙₘ = ℙ(zₙₘ(α) ≥ Γₙₘ)로 유도되며, 여기서 Γₙₘ = Δ‖F⁻¹‖⁻¹_{L²(νₓ)} − (x/n)²/ᵈ − (x/m)²/ᵈ − r(n+m)로 표현되며, 각 항은 별개의 오류 원천을 나타낸다.
• 이 방법은 점차적 일致성을 확보한다: 표본 크기가 증가함에 따라, 대립가설 하에서 (Δ > 0) 제2종 오류 상한 βₙₘ는 0으로 수렴한다.
• Vinho Verde 포도주 데이터셋에 대한 실험 결과, 흰 포도주(품질 5, 6, 7)와 빨간 포도주(품질 5, 6) 간의 화학 조성에 통계적으로 유의미한 차이가 있음을 확인하여 검정의 실증적 검증력을 입증한다.
• 유한 표본 수렴 속도는 표본 크기가 증가할수록 향상됨을 경험적으로 검증하였으며, 동일한 유의수준(α = 0.95)에서 빨간 포도주 그룹이 흰 포도주 그룹보다 더 빠른 수렴 속도를 보였다.