[논문 리뷰] Distance Covariance in Metric Spaces: Non-Parametric Independence Testing in Metric Spaces (Master's thesis)

Martin Emil Jakobsen|arXiv (Cornell University)|2017. 06. 12.

Bayesian Methods and Mixture Models참고 문헌 7인용 수 5

한 줄 요약

이 석사학위논문은 Russell Lyons가 개발한 거리 공분산 기능을 사용하여 분리 가능한 거리공간에서 비모수적 통계적 인과성 검정을 제안한다. 강한 음성 유형을 갖는 거리공간—예를 들어 분리 가능한 힐버트 공간—에서는 거리 공분산이 0이 되는 것과 랜덤 변수들이 서로 인과성이 없는 것 사이에 동치관계가 성립함을 입증한다. 본 논문은 이 기능의 일致한 추정기들을 구축하고 부트스트랩 기반의 가설검정을 제안함으로써, 모수적 가정 없이도 타당한 통계적 추론이 가능하도록 한다.

ABSTRACT

The aim of this thesis is to find a solution to the non-parametric independence problem in separable metric spaces. Suppose we are given finite collection of samples from an i.i.d. sequence of paired random elements, where each marginal has values in some separable metric space. The non-parametric independence problem raises the question on how one can use these samples to reasonably draw inference on whether the marginal random elements are independent or not. We will try to answer this question by utilizing the so-called distance covariance functional in metric spaces developed by Russell Lyons. We show that, if the marginal spaces are so-called metric spaces of strong negative type (e.g. seperable Hilbert spaces), then the distance covariance functional becomes a direct indicator of independence. That is, one can directly determine whether the marginals are independent or not based solely on the value of this functional. As the functional formally takes the simultaneous distribution as argument, its value is not known in the posed non-parametric independence problem. Hence, we construct estimators of the distance covariance functional, and show that they exhibit asymptotic properties which can be used to construct asymptotically consistent statistical tests of independence. Finally, as the rejection thresholds of these statistical tests are non-traceable we argue that they can be reasonably bootstrapped.

연구 동기 및 목표

• 모수적 분포 가정 없이 분리 가능한 거리공간에서 비모수적 인과성 문제를 해결하는 것.
• 유계 공간을 넘어 일반적인 거리공간, 특히 강한 음성 유형을 갖는 공간으로 거리 공분산 개념을 확장하는 것.
• 진짜 공동분포가 알려져 있지 않은 상황에서 거리 공분산 기능의 일치 추정기들을 개발하는 것.
• 이러한 추정기들을 사용하여 점점 더 타당한 통계적 검정을 수립하는 것.
• 분석적으로 구할 수 없는 기각 임계값 문제를 해결하기 위해 부트스트랩 기반 접근법을 제안하는 것.

제안 방법

• 특성함수와 곱공간 위의 적분을 통해 정의된 거리공분산 기능을 거리공간 내의 종속성 척도로 사용한다.
• 특히 강한 음성 유형 개념을 포함한 거리공간 이론의 결과를 적용하여, 거리공분산이 0이 되는 것과 랜덤 원소들이 서로 인과성이 없는 것 사이에 동치관계가 성립함을 보장한다.
• 독립 동일분포 쌍 표본에서 U-통계량 기반 추정기들을 구성하고, 점점 더 분석을 위해 Hoeffding 분해를 활용한다.
• 인과성의 귀무가설 하에서 추정기의 점근적 분포를 유도하여, 탈중심 분포로 수렴함을 보인다.
• 표본 분포를 근사하기 위해 부트스트랩 방법을 사용하여, 분석적 임계값이 계산하기 어려운 경우에도 기각 임계값을 추정할 수 있도록 한다.
• 힐베르트 공간 값의 적분을 지원하기 위해 복소화 및 텐서곱 기법을 활용하여, 추상적 거리공간 내에서 이론적 기초를 강화한다.

실험 결과

연구 질문

• RQ1 거리공분산 기능이 일반적인 분리 가능한 거리공간에서 인과성의 직접적 지표로 사용될 수 있는가?
• RQ2 거리공간의 어떤 조건에서 거리공분산이 0이 되는 것과 랜덤 원소들이 서로 인과성이 없는 것 사이에 동치관계가 성립하는가?
• RQ3 진짜 공동분포가 알려져 있지 않은 상황에서 유한한 i.i.d. 표본으로부터 거리공분산 기능을 어떻게 일치 추정할 수 있는가?
• RQ4 인과성의 귀무가설 하에서 제안된 추정기들의 점근적 성질은 무엇인가?
• RQ5 기본적으로 분석적으로 계산하기 어려운 기각 임계값을 신뢰성 있게 계산하는 방법은 무엇인가?

주요 결과

• 강한 음성 유형을 갖는 거리공간—예를 들어 분리 가능한 힐베르트 공간—에서는 거리공분산 기능이 0이 되는 것과 랜덤 원소들이 서로 인과성이 없는 것 사이에 동치관계가 성립하므로, 이는 인과성의 직접적 지표가 된다.
• 제안된 거리공분산 기능의 추정기는 일致성이 있으며, 표본 크기가 증가함에 따라 진짜 값으로 확률수렴한다.
• 귀무가설 하에서 검정통계량의 점근적 분포는 탈중심이므로, 임계값 추정을 위해 재표본 추출 방법이 필요하다.
• 부트스트랩 절차는 검정통계량의 표본분포를 근사하는 데 유효하고 실용적인 방법을 제공하며, 점점 더 일致적인 가설검정을 가능하게 한다.
• 이론적 프레임워크는 거리공분산의 적용 가능 영역을 유클리드 공간을 넘어 일반적인 분리 가능한 거리공간, 특히 복잡하거나 무한차원의 구조를 갖는 공간으로 확장한다.
• 거리공분산 커널의 유계성에 대한 핵심 보조정리의 증명은 삼각부등식과 거리공간의 성질에 기반하여, 추정기의 적분 가능성과 안정성을 보장한다.