[논문 리뷰] Pearson Distance is not a Distance

Victor Solo|arXiv (Cornell University)|2019. 08. 15.

Bayesian Methods and Mixture Models참고 문헌 10인용 수 14

한 줄 요약

이 논문은 널리 사용되는 피어슨 거리 $1 - \rho_{xy}$가 삼각 부등식을 위반하므로 메트릭이 아니며, 이는 클러스터링 응용 분야에서의 타당성을 떨어뜨린다. 이는 $\sqrt{1 - \rho_{xy}}$가 메트릭임을 증명하고, $\sqrt{1 - \rho_{xy}^2}$도 메트릭임을 보이며, 반면 $1 - |\rho_{xy}|$는 그렇지 않음을 보여주어, 강력한 통계적 클러스터링을 위한 수정된 대안을 제공한다.

ABSTRACT

The Pearson distance between a pair of random variables $X,Y$ with correlation $ρ_{xy}$, namely, 1-$ρ_{xy}$, has gained widespread use, particularly for clustering, in areas such as gene expression analysis, brain imaging and cyber security. In all these applications it is implicitly assumed/required that the distance measures be metrics, thus satisfying the triangle inequality. We show however, that Pearson distance is not a metric. We go on to show that this can be repaired by recalling the result, (well known in other literature) that $\sqrt{1-ρ_{xy}}$ is a metric. We similarly show that a related measure of interest, $1-|ρ_{xy}|$, which is invariant to the sign of $ρ_{xy}$, is not a metric but that $\sqrt{1-ρ_{xy}^2}$ is. We also give generalizations of these results.

연구 동기 및 목표

• 피어슨 거리 $1 - \rho_{xy}$가 클러스터링 응용 분야에서 널리 사용되지만, 삼각 부등식을 위반하므로 메트릭이 아님을 입증하는 것.
• 변환된 거리 $\sqrt{1 - \rho_{xy}}$가 유효한 메트릭임을 보여주어 잘못된 피어슨 거리 사용을 수정하는 것.
• 기호 불변 변형인 $1 - |\rho_{xy}|$를 분석하고 삼각 부등식을 위반함을 보여주는 것.
• $\sqrt{1 - \rho_{xy}^2}$가 메트릭임을 증명하고 관련도 기반 이질성에 대한 강력한 대안을 제공하는 것.
• 메트릭 유지 함수와 양의 준정부호 유사도 행렬을 이용한 이론적 기초를 제공하여 보다 광범위한 적용 가능성을 확보하는 것.

제안 방법

• 영균, 단위 분산을 가진 랜덤 변수를 사용한 기본 반례를 통해 $1 - \rho_{xy}$와 $1 - |\rho_{xy}|$의 삼각 부등식 위반을 입증한다.
• $\sqrt{E[(X-Y)^2]} \leq \sqrt{E[(X-Z)^2]} + \sqrt{E[(Z-Y)^2]}$의 항등식을 활용하여 $\sqrt{1 - \rho_{xy}}$가 삼각 부등식을 충족함을 증명한다.
• 상관관계 $\rho_{ij}^2$를 가진 독립 랜덤 벡터 $X_k, Y_k$의 구성 방법을 적용하여 $\sqrt{1 - \rho_{xy}^2}$가 메트릭임을 증명한다.
• 메트릭 유지 함수의 결과를 적용: 엄격하게 볼록인 함수(예: $x^2$)는 메트릭을 유지하지 못하지만, 오목이고 증가하는 함수(예: $\sqrt{x}$)는 유지한다.
• Gower와 Legendre(1986)의 결과를 적용: 만약 유사도 행렬 $[s_{ij}]$가 양의 준정부호이면 $\sqrt{1 - s_{ij}}$는 메트릭이다.
• $g(d) = 1 - \sqrt{1 - d^2}$의 이阶도를 분석하여 엄격한 볼록성을 입증하고, $1 - |\rho_{xy}|$가 메트릭이 될 수 없음을 확인한다.

실험 결과

연구 질문

• RQ1 피어슨 거리 $1 - \rho_{xy}$는 클러스터링 응용 분야에서 유효한 메트릭인가?
• RQ2 $\sqrt{1 - \rho_{xy}}$의 변환은 삼각 부등식을 충족하고, 따라서 메트릭으로서 자격이 있는가?
• RQ3 기호 불변 이질성 $1 - |\rho_{xy}|$는 메트릭인가? 만약 그렇지 않다면 어떤 수정이 메트릭 성질을 복원하는가?
• RQ4 $\sqrt{1 - \rho_{xy}^2}$는 삼각 부등식을 충족하고 관련도 기반 이질성에 대한 강력한 대안으로 기능하는가?
• RQ5 메트릭 유지 함수의 일반 원칙은 어떤 변환들이 관련도 기반 거리의 메트릭 성질을 유지하거나 유지하지 못하는지를 설명하는가?

주요 결과

• 피어슨 거리 $1 - \rho_{xy}$는 삼각 부등식을 위반하므로 메트릭이 아니며, $\theta \in [0, \pi/4]$ 범위에서 명시적인 반례로 입증된다.
• 변환된 거리 $\sqrt{1 - \rho_{xy}}$는 삼각 부등식을 충족하고, 영균, 단위 분산 랜덤 변수의 제곱 차이에 대한 삼각 부등식을 통해 메트릭으로 증명된다.
• 기호 불변 이질성 $1 - |\rho_{xy}|$는 삼각 부등식을 위반하며, $\theta \in [\pi/6, \pi/4]$ 범위에서 위반이 확인되어 근본적인 구조적 결함이 있음을 시사한다.
• $\sqrt{1 - \rho_{xy}^2}$는 메트릭이며, 상관관계 $\rho_{ij}^2$를 가진 독립 랜덤 벡터의 구성과 Gower 및 Legendre의 결과를 적용하여 증명된다.
• $g(d) = 1 - \sqrt{1 - d^2}$는 엄격한 볼록성을 가지므로, $1 - |\rho_{xy}|$가 메트릭이 될 수 없음을 확인한다. 메트릭의 볼록 변환은 메트릭 성질을 유지하지 못한다.
• $f(x) = \sqrt{x}$를 $\sqrt{1 - \rho_{xy}}$에 적용하면 $(1 - \rho_{xy})^{1/4}$가 되며, 이는 $f$의 오목성과 단조 증가성으로 인해 유효한 메트릭이다.