[논문 리뷰] A new correlation coefficient, its orthogonal decomposition and associated tests of independence

Wicher Bergsma|ArXiv.org|2006. 04. 28.

Advanced Statistical Methods and Models참고 문헌 22인용 수 9

한 줄 요약

이 논문은 0에서 1 사이의 값을 가지며, 독립성 하에서 0이고 선형 종속성 하에서 1이 되는 새로운 상관계수 ρ*를 소개한다. 절대 차이의 커널을 기반으로 유도되어 힐버트-슈미트 연산자의 고유함수를 통한 성분 상관계수의 직교 분해를 가능하게 하며, 해석 가능하고 강력한 독립성 검정을 제공하고 시각적 진단과 점근적 추론을 가능하게 한다.

ABSTRACT

A possible drawback of the ordinary correlation coefficient $ρ$ for two real random variables $X$ and $Y$ is that zero correlation does not imply independence. In this paper we introduce a new correlation coefficient $ρ^*$ which assumes values between zero and one, equalling zero iff the two variables are independent and equalling one iff the two variables are linearly related. The coefficients $ρ^*$ and $ρ^2$ are shown to be closely related algebraically, and they coincide for distributions on a $2 imes 2$ contingency table. We derive an orthogonal decomposition of $ρ^*$ as a positively weighted sum of squared ordinary correlations between certain marginal eigenfunctions. Estimation of $ρ^*$ and its component correlations and their asymptotic distributions are discussed, and we develop visual tools for assessing the nature of a possible association in a bivariate data set. The paper includes consideration of grade (rank) versions of $ρ^*$ as well as the use of $ρ^*$ for contingency table analysis. As a special case a new generalization of the Cram{é}r-von Mises test to $K$ ordered samples is obtained.

연구 동기 및 목표

• 피어슨 상관계수 ρ의 한계를 해결하기 위해, 0이더라도 비선형 종속성을 탐지하지 못하는 문제를 해결한다.
• 독립성 하에서 0이고 선형 종속성 하에서 1이 되며, [0,1] 범위 내의 값을 가지는 상관계수 ρ*를 개발한다.
• 모수적 커널 h_F의 고유함수 간의 성분 상관계수로 ρ*의 스펙트럼 분해를 제공한다.
• ρ*와 그 성분을 이용한 종속성 구조의 추정, 추론 및 시각화를 가능하게 한다.
• 크레머-폰 마이즈 검정을 K개의 순서 있는 표본으로 일반화하여 특수한 경우로 제공한다.

제안 방법

• 절대 차이를 제곱 차이 대신 사용하는 새로운 커널 h_F(z₁,z₂) = -1/2 E[|z₁−z₂| − |z₁−Z₂| − |Z₁−z₂| + |Z₁−Z₂|]를 정의한다.
• h_F를 기반으로 한 유사 공분산 기능인 κ(X,Y) = E[h_{F₁}(X₁,X₂) h_{F₂}(Y₁,Y₂)]를 구성한다.
• ρ* = κ(X,Y)/√[κ(X,X)κ(Y,Y)]로 정의하여 0 ≤ ρ* ≤ 1이 되며, X와 Y가 선형적으로 관련되어 있을 때에만 1이 된다.
• 직교 분해를 유도: ρ* = Σ λ_k μ_k ρ_{kl}², 여기서 λ_k, μ_k는 h_{F₁}과 h_{F₂}의 고유값이고, ρ_{kl}은 각각의 고유함수 간의 상관계수이다.
• 힐버트-슈미트 연산자의 스펙트럼 이론을 사용하여 차분(이산) 또는 미분(연속) 방정식을 통해 고유함수를 구한다.
• κ와 ρ*에 대한 O(n²) 추정기법을 제안하고, 독립성 하에서의 점근적 귀무분포를 카이제곱 분포의 혼합형태로 유도한다.

실험 결과

연구 질문

• RQ1 임의의 종속성(선형 또는 단조적이지 않은 종속성)을 탐지할 수 있고, 독립성일 때에만 0이 되는 상관계수를 구성할 수 있는가?
• RQ2 ρ*는 종속성의 성격을 드러내는 해석 가능한 직교 성분으로 어떻게 분해될 수 있는가?
• RQ3 귀무가설인 독립성 하에서 표본 ρ*의 점근적 분포는 무엇인가?
• RQ4 성분 상관계수 ρ_{kl}는 어떻게 추정하고 유의성 여부를 검정할 수 있는가?
• RQ5 ρ*는 순위 기반 또는 코풀라 기반 추론으로 일반화될 수 있으며, 새로운 비모수적 검정을 도출할 수 있는가?

주요 결과

• ρ*는 0 ≤ ρ*(X,Y) ≤ 1를 만족하며, X와 Y가 독립이면 ρ*(X,Y) = 0이고, 선형적으로 관련되어 있으면 ρ*(X,Y) = 1이다.
• 직교 분해 ρ* = Σ λ_k μ_k ρ_{kl}²는 모수적 커널의 고유함수 간 종속성 성분으로의 고유하고 해석 가능한 분해를 제공한다.
• 노르웨이 주식거래소 데이터의 경우, ρ* = 0.09 (p = 0.000)로 연속적인 가격 점프 간 강한 연관성을 나타내며, 보너페르니 보정 후 7개의 유의한 성분 상관계수를 발견하였다.
• ρ̂₁₁ = 0.25, ρ̂₂₂ = 0.64, ρ̂₄₄ = 0.38 등의 성분 상관계수가 유의미했으며(p = 0.000), 큰 점프와 작은 점프의 집중 현상을 나타낸다.
• W_i와 W_i^{(k,l)}의 가중치 시각화는 종속성의 십자가 형태를 효과적으로 드러내며, 위쪽 팔이 무겁게 나타나 점프 방향의 지속성을 나타낸다.
• 이 방법은 크레머-von Mises 검정을 K개의 순서 있는 표본으로 일반화하여, K표본 대칭성에 대한 새로운 비모수적 검정을 제공한다.