[논문 리뷰] A Correlation-Based Distance

Jean-Luc Falcone, Paul Albuquerque|ArXiv.org|2004. 02. 27.

Neural Networks and Applications인용 수 4

한 줄 요약

이 논문은 R^D에서 상관계수 기반의 거리 척도를 제안하며, 데이터 포인트 간의 이질성을 표준화되고 중심화된 성분을 기반으로 측정하고, 이를 초구면에 매핑한다. 거리 척도는 d(x,y) = sqrt(1 - [corr(x,y)]^2)로 정의되며, 이는 정규화된 벡터 간의 각도 α에 대해 sin(α)와 동일하다. 질량 중심은 구면 조건 하에서 공분산 유사 행렬의 고유분해를 통해 유도된다.

ABSTRACT

In this short technical report, we define on the sample space R^D a distance between data points which depends on their correlation. We also derive an expression for the center of mass of a set of points with respect to this distance.

연구 동기 및 목표

• R^D에서 데이터 포인트 간 상관계수 구조를 반영하는 새로운 거리 척도를 정의하기 위해.
• 고차원 데이터에서 관계 패턴을 포착하지 못하는 표준 유클리드 거리의 한계를 해결하기 위해.
• 이 상관계수 기반 거리 척도에 따라 초구면 위에서 점들의 질량 중심을 유도하기 위해.
• 이 거리 척도가 대칭성과 비음성과 같은 핵심 성질을 만족하도록 하되, R^D에서는 비퇴화적임을 보장하기 위해.
• 벡터의 방향 등가성의 특성을 활용하여 프로젝티브 공간 P^D에서 비퇴화적 거리 척도를 수립하기 위해.

제안 방법

• 각 데이터 포인트 x ∈ R^D ∕ Diag를 표준화되고 중심화된 형태 x* = (x - x̄)/σ_x로 변환하여 초구면 S^D(√D)에 매핑한다.
• 상관계수 기반 거리 척도를 d(x,y) = √(1 - [corr(x,y)]^2) = √(1 - (x*·y*)²/D²)로 정의하며, 이는 x*와 y* 간의 각도 α에 대한 sin(α)와 동일하다.
• 라그랑주 승수법을 사용하여 g가 초구면 S^D(√D) 위에 있을 조건 하에 평균 제곱거리 F(g) = (1/N)Σ[d(g,x_j)]²를 최소화한다.
• 최적화 조건을 M g = λ g로 도출하며, 여기서 M은 데이터 포인트들의 외적 곱으로 구성된 대칭 D×D 행렬이다.
• 질량 중심 g를 M의 최대 고유값에 해당하는 고유벡터로 구하고, 이를 초구면 위에 정규화한다.
• 거리 척도가 R^D에서는 퇴화적임을 인지하지만, 벡터의 방향 등가성 덕분에 프로젝티브 공간 P^D에서는 비퇴화적임을 인지한다.

실험 결과

연구 질문

• RQ1 R^D에서 원시 유클리드 차이가 아닌 상관계수 간의 관계를 반영하는 거리 척도는 어떻게 정의할 수 있는가?
• RQ2 제안된 상관계수 기반 거리 척도의 거리 성질(대칭성, 비음성, 삼각 부등식)은 무엇인가?
• RQ3 이 새로운 거리 척도 하에서 점들의 질량 중심은 어떻게 계산할 수 있는가?
• RQ4 이 거리 척도가 비퇴화적인 성질을 가지는 공간은 무엇이며, 그 이유는 무엇인가?
• RQ5 이 척도 하에서 질량 중심을 위한 최적화 문제의 기하학적 및 대수적 구조는 어떠한가?

주요 결과

• 제안된 거리 d(x,y) = √(1 - [corr(x,y)]²)는 대칭성과 비음성을 만족하며, d(x,y) = 0이 되는 것은 x* = ±y*일 때에만 성립하여 완전한 상관관계를 의미한다.
• 거리 척도는 표준화된 벡터 x*와 y* 간의 각도 α에 대한 sin(α)와 동일하여 기하학적 해석이 확인된다.
• 삼각 부등식은 각도의 덧셈에서 sine 함수의 부분가역성 덕분에 성립하며, 동일 평면으로의 회전을 통해 검증된다.
• 질량 중심 g는 M = (1/(ND)) Σ_j x_j x_j^T에 해당하는 최대 고유값에 대응하는 고유벡터로 구해지며, 이를 초구면 위에 정규화한다.
• 거리 척도는 R^D ∕ Diag에서는 퇴화적이다. 왜냐하면 d(x,y) = 0이 되더라도 x = y이지 않을 수 있기 때문이다. 그러나 프로젝티브 공간 P^D에서는 비퇴화적이다.
• 질량 중심을 위한 최적화 문제는 고유값 문제로 축소되어 고차원 데이터에 대해 계산적으로 구현 가능해진다.