[논문 리뷰] Generalizing Distance Covariance to Measure and Test Multivariate Mutual Dependence

Ze Jin, David S. Matteson|arXiv (Cornell University)|2017. 09. 08.

Advanced Statistical Methods and Models참고 문헌 12인용 수 5

한 줄 요약

이 논문은 특성 함수와 V-통계량을 사용하여 다변량 상호의존도를 측정하기 위한 세 가지 새로운 측도를 제안한다. 이 측도들은 일반화된 거리 공분산 기반으로, 비선형 및 비단조선형 의존성을 탐지할 수 있다. 이 측도들은 오직 그리고 오직 서로 독립인 벡터들일 때에만 0이 되며, 시뮬레이션과 실제 데이터에서 강력한 검정력을 보이며, 평균화된 의존성이 드러나지 않을 수 있는 이변량 검정보다도 뛰어난 성능을 보인다.

ABSTRACT

We propose three measures of mutual dependence between multiple random vectors. All the measures are zero if and only if the random vectors are mutually independent. The first measure generalizes distance covariance from pairwise dependence to mutual dependence, while the other two measures are sums of squared distance covariance. All the measures share similar properties and asymptotic distributions to distance covariance, and capture non-linear and non-monotone mutual dependence between the random vectors. Inspired by complete and incomplete V-statistics, we define the empirical measures and simplified empirical measures as a trade-off between the complexity and power when testing mutual independence. Implementation of the tests is demonstrated by both simulation results and real data examples.

연구 동기 및 목표

• 이차적 독립성 검정이 평균화 효과로 인해 실패할 수 있는 상황에서, 다수의 다변량 랜덤 벡터 간의 상호독립성 검정을 위한 효과적인 방법이 부족한 문제를 해결하기 위해.
• 거리 공분산을 이변량에서 다변량 상호의존도로 일반화하여, 모든 벡터들이 상호독립일 때에만 측도가 0이 되도록 보장하기 위해.
• 불완전한 V-통계량 기반의 경험적 및 단순화된 경험적 측도를 사용하여 계산이 용이한 검정을 개발하고, 복잡성과 통계적 검정력 사이의 균형을 맞추기 위해.
• 시뮬레이션과 실제 데이터를 통한 실험을 통해 제안된 방법의 효과성을 입증하고, 이변량 접근법에 비해 상호의존성을 더 잘 탐지할 수 있음을 보여주기 위해.

제안 방법

• 공분산 함수의 결합과 주변 분포의 곱의 차이의 L2-노름을 기반으로 한 가중치가 부여된 특성 함수 기반의 V-통계량을 사용하여 상호의존도의 완전한 측도를 제안한다.
• 모든 구성 요소 쌍 간의 제곱 거리 공분산의 합으로 구성된 대칭 및 비대칭 변형을 도입하여, 상호독립일 경우에 반드시 0이 되도록 보장한다.
• 불완전한 V-통계량을 사용하여 경험적 및 단순화된 경험적 통계량을 적용함으로써 계산 복잡성을 줄이면서도 渐近적 성질을 유지한다.
• 특성 함수와 특성 함수 기반의 기대값을 사용하여 측도를 정의함으로써, 복잡한 의존 구조를 비모수적으로 탐지할 수 있도록 한다.
• 귀무가설과 대립가설 하에서의 점근적 분포를 유도하여, 독립성 하에서는 카이제곱 분포 유사 분포로 수렴하고, 의존성이 존재할 경우 발산함을 보여준다.
• 다변량 슬러츠티의 정리와 구성 요소 간의 점근적 독립성을 활용하여 귀무가설 하에서 검정 통계량의 점근적 분포를 확립한다.

실험 결과

연구 질문

• RQ1 거리 공분산은 두 개 이상의 다변량 랜덤 벡터 간의 상호의존도를 측정하기 위해 이변량에서 일반화될 수 있는가? (단지 이변량 의존성만을 다루는가?)
• RQ2 제안된 상호의존도 측도는 이변량 방법이 놓칠 수 있는 비선형 및 비단조선형 의존성을 정확히 탐지할 수 있는가?
• RQ3 계산이 효율적인 경험적 및 단순화된 경험적 통계량은 복잡성을 줄이면서도 충분한 통계적 검정력을 유지할 수 있는가?
• RQ4 고차원 설정에서 기존의 방법들인 dHSIC 및 이변량 거리 공분산과 비교하여 제안된 측도는 상호의존성을 얼마나 잘 탐지하는가?

주요 결과

• 제안된 상호의존도의 완전한 측도는 오직 그리고 오직 랜덤 벡터들이 상호독립일 때에만 0이 되며, 이는 상호의존도의 정확한 탐지 보장한다.
• 귀무가설 하에서 검정 통계량의 점근적 분포는 가중치가 부여된 카이제곱 분포의 합으로 수렴하여 타당한 p-값 계산이 가능하다.
• 시뮬레이션 결과는 제안된 검정이 모든 이변량 의존성이 약하거나 존재하지 않을 경우에도 상호의존도를 성공적으로 탐지함을 보여주며, 이는 이변량 검정보다 뛰어난 성능을 보임을 입증한다.
• 단순화된 경험적 버전은 계산 복잡성을 크게 줄이면서도 높은 통계적 검정력을 유지하여 중간 크기의 표본 크기에서의 확장성을 확보한다.
• 실제 데이터 예시는 기존 방법이 실패할 수 있는 실세계 환경에서 비선형적이고 복잡한 상호의존성을 탐지할 수 있음을 확인한다.
• 이차적 독립성 검정에 기반한 기존 방법들은 이변량 의존성의 상쇄 효과로 인해 잘못된 독립성 결론을 내릴 수 있으나, 본 방법은 이를 우월하게 뛰어넘는다.