[논문 리뷰] Construction of Non-asymptotic Confidence Sets in 2-Wasserstein Space

Johannes Ebert, Vladimir Spokoiny외 1명|arXiv (Cornell University)|2017. 03. 10.

Topological and Geometric Data Analysis참고 문헌 21인용 수 14

한 줄 요약

이 논문은 2-워샤프스키 공간에서 공분산 행렬이 가환성을 만족하는 위치-산란 가족 내 확률 측도를 가진 경험 워샤프스키 바리센터 주위의 비점근적 부트스트랩 방법을 제안한다. 이 방법은 승수 부트스트랩을 활용하여 유한 표본 보장을 갖는 타당한 추론 및 가설 검정(예: 변화점 탐지)을 가능하게 한다.

ABSTRACT

In this paper, we consider a probabilistic setting where the probability measures are considered to be random objects. We propose a procedure of construction non-asymptotic confidence sets for empirical barycenters in 2-Wasserstein space and develop the idea further to construction of a non-parametric two-sample test that is then applied to the detection of structural breaks in data with complex geometry. Both procedures mainly rely on the idea of multiplier bootstrap (Spokoiny and Zhilova (2015), Chernozhukov et al. (2014)). The main focus lies on probability measures that have commuting covariance matrices and belong to the same scatter-location family: we proof the validity of a bootstrap procedure that allows to compute confidence sets and critical values for a Wasserstein-based two-sample test.

연구 동기 및 목표

• 점근적 근사 없이 유한 표본 조건 하에서 경험 워샤프스키 바리센터에 대한 유한 표본 신뢰구간을 개발하기 위해.
• 워샤프스키 거리 기반 비모수적 두 표본 검정에 사용할 임계값을 생성하기 위한 타당한 부트스트랩 절차를 수립하기 위해.
• 워샤프스키 기반 추론을 통해 복잡한 기하학적 구조를 가진 데이터에서 구조적 변화 탐지 기능을 제공하기 위해.
• 위치-산란 가족 내에서 공분산 행렬이 가환성을 만족할 때 부트스트랩의 이론적 타당성을 확보하기 위해.
• 비유클리드적, 다양체 기반 데이터 구조(예: 형태 분석 및 영상 처리)에 적용 가능한 바리센터에 대한 추론 프레임워크를 제공하기 위해.

제안 방법

• 체르노조크우크, 체르베리코프, 카토(2013) 및 스포코이니 및 지료바(2015)에서 개발한 승수 부트스트랩 절차를 고차원 추론에 활용한다.
• 공분산 행렬이 가환성을 만족할 조건 하에서 경험 워샤프스키 바리센터에 대한 비점근적 신뢰구간을 구성하기 위해 부트스트랩을 적용한다.
• 고차원 설정에서 부트스트랩 오차를 제어하기 위해 정규 근사와 반집중 부등식을 활용한다.
• 행렬 베르누이 부등식을 사용하여 경험 공분산 행렬의 편차의 연산자 노름을 유계로 제한한다.
• 모멘트 조건 하에서 경험 이차형식의 편차에 대한 하중 지수 꼬리 유계를 유도하여 농도를 보장한다.
• 경험 바리센터 간의 2-워샤프스키 거리 기반 두 표본 검정 통계량을 구성하고, 임계값은 부트스트랩을 통해 확보한다.

실험 결과

연구 질문

• RQ1 유한 표본 조건 하에서 2-워샤프스키 공간에서 경험 워샤프스키 바리센터 주위에 비점근적 신뢰구간을 구성할 수 있는가?
• RQ2 기본 확률 측도의 공분산 행렬이 가환성을 만족할 경우 워샤프스키 바리센터에 대한 승수 부트스트랩이 타당한가?
• RQ3 제안된 부트스트랩 절차를 복잡한 기하학적 구조를 가진 데이터의 구조적 변화 탐지에 확장할 수 있는가?
• RQ4 2-워샤프스키 바리센터 맥락에서 부트스트랩 기반 두 표본 검정의 유한 표본 성질은 어떠한가?
• RQ5 공분산 행렬의 가환성과 위치-산란 가족에 대한 가정이 부트스트랩 추론의 타당성과 정확성에 어떤 영향을 미치는가?

주요 결과

• 기본 확률 측도의 공분산 행렬이 가환성을 만족할 조건 하에서 워샤프스키 바리센터 주위의 부트스트랩 절차가 타당함을 증명하였다.
• 근접한 공분산 구조를 가진 다변량 정규분포 두 개 간의 쿨바크-라이블러 발산에 대한 유계를 수립하였으며, KL 발산이 변환된 공분산 행렬의 차이의 반 제곱 프로베니우스 노름으로 유계됨을 보였다.
• 행렬 베르누이 부등식을 적용하여 경험 공분산 행렬 편차의 연산자 노름을 제어하였으며, 고확률 유계 $\mathbb{P}(\|Z\|_{\text{op}} \geq \mathtt{C}\mathtt{x}/\sqrt{n}) \leq 2\exp\bigl(-(\mathtt{x}-6L\log(d))/6L\bigr{)}$ 를 도출하였다.
• 하중 지수 꼬리 유계는 경험 이차형식의 편차가 잘 제어됨을 보장하며, 꼬리 감쇠는 분산과 하중정규 꼬리 파라미터에 따라 달라진다.
• 공분산 행렬 비율의 고유값에 대한 조건 하에서 부트스트랩의 이론적 타당성이 확립되었으며, $\|\Sigma_2^{-1/2}\Sigma_1\Sigma_2^{-1/2} - I_d\| \leq 1/2$ 및 $\operatorname{tr}((\Sigma_2^{-1/2}\Sigma_1\Sigma_2^{-1/2} - I_d)^2) \leq \rho_\Sigma^2/2$ 를 만족한다.
• 모의 실험과 실데이터 실험(신뢰구간의 커버리지 확률 및 변화점 탐지)을 통해 유한 표본 조건 하에서 고차원 설정에서의 비점근적 추론이 가능함을 입증하였다.