[논문 리뷰] Measures of Correlation for Multiple Variables

Jianji Wang, Nanning Zheng|arXiv (Cornell University)|2014. 01. 20.

Advanced Statistical Methods and Models참고 문헌 21인용 수 14

한 줄 요약

이 논문은 다변량 상관관계 및 다중 변수 간 선형 무관성에 대한 일반적인 측정법으로Unsigned Correlation Coefficient (UCC)와Unsigned Incorrelation Coefficient (UIC)를 도입한다. UCC는 다차원 공간 내 표준화된 벡터 간의 최소 각도의余弦을 사용하여 선형 종속성의 강도를 측정하며, UIC는 이러한 벡터들에 의해 형성된 평행육면체의 부피를 측정한다; 양측 모두 [0,1] 범위로 제한되며, UCC는 선형 종속성일 경우 1에 도달하고, 직교성일 경우 0이 된다.

ABSTRACT

Multivariate correlation analysis plays an important role in various fields such as statistics, economics, and big data analytics. In this paper, we propose a pair of measures, the unsigned correlation coefficient (UCC) and the unsigned incorrelation coefficient (UIC), to measure the strength of correlation and incorrelation (lack of correlation) among multiple variables. The absolute value of Pearson's correlation coefficient is a special case of UCC for two variables. Some important properties of UCC and UIC show that the proposed UCC and UIC are a pair of effective measures for multivariate correlation. We also take the unsigned tri-variate correlation coefficient as an example to visually display the effectiveness of the proposed UCC, and the geometrical explanation of UIC is also discussed. All the properties and the figures of UCC and UIC show that the proposed UCC and UIC are the general measures of correlation for multiple variables.

연구 동기 및 목표

• 고차원 데이터 분석에서 다변량 상관관계에 대한 간결하고 직접적인 측정법이 부족한 문제를 해결하기 위해.
• 두 변수 이상의 경우로 확장된 피어슨 상관계수의 일반화를 위해.
• 다변량 시스템에서 상관관계 강도와 선형 독립성에 대한 기하학적으로 해석 가능한 측정법을 제공하기 위해.
• 벡터 기하학과 그람 행렬을 이용하여 다변량 데이터에서의 상관계수와 무관성에 대한 공식적 프레임워크를 수립하기 위해.
• 기하학적 및 3차원 표현을 통한 시각적 검증을 통해 제안된 측정법의 효과성을 입증하기 위해.

제안 방법

• 표준화된 벡터들에 의해 형성된 평행육면체의 부피의 제곱을 1에서 빼고 그 제곱근을 취하여Unsigned Correlation Coefficient (UCC)를 정의한다.
• 다중 변수의 표준화된 벡터들에 의해 형성된 평행육면체의 부피로Unsigned Incorrelation Coefficient (UIC)를 수립한다.
• 상관계수 행렬의 행렬식을 UIC의 제곱으로 사용하여 그람 기하학과 연결한다.
• 기하학적 추론을 적용: 변수 수가 차원 수와 동일할 경우, UIC는 표준화된 벡터 행렬의 행렬식의 절대값과 같다.
• 3차원 표면과 곡선을 사용하여 UCC를 각도 η(벡터 c와 ab 평면에 대한 그의 투영 사이의 각)에 대해 시각화하여 기하학적 상관관계 강도와의 밀착도를 보여주며, 이는 기하학적 상관관계 강도와의 근접성을 확인한다.
• UCC와 3차원 공간 내 공간 각도 간의 관계를 설명하는 주요 항등식인 $ r_{abc} = \sqrt{1 - \sin^2\alpha \sin^2\eta} $를 유도한다.

실험 결과

연구 질문

• RQ1 다중 변수 간 선형 상관관계의 강도를 부분 상관계수와 같은 간접 방법 외에 직접 측정할 수 있는 방법은 무엇인가?
• RQ2 벡터 공간과 평행육면체를 기반으로 다변량 상관관계의 기하학적 해석은 어떻게 이루어지는가?
• RQ3 단일 스칼라 측정법이 피어슨 상관계수를 두 개 이상의 변수로 일반화하면서 유계성과 단조성 등의 주요 성질을 유지할 수 있는가?
• RQ4 다변량 공간에서 변수와 다른 변수들이 형성하는 평면 사이의 각도와 UCC는 어떻게 관련되어 있는가?
• RQ5 상관계수 행렬의 행렬식과 다변량 무관성 측정법 사이의 관계는 무엇인가?

주요 결과

• UCC와 UIC는 [0,1] 범위로 제한되며, UCC = 1은 변수 간 완전한 선형 종속성을, UCC = 0는 직교성을 의미한다.
• 일련의 변수들에 대해 UCC의 제곱과 UIC의 제곱의 합은 항상 1과 같다. 이는 상호보완적인 관계를 수립한다.
• UIC는 변수들의 표준화된 벡터들에 의해 형성된 평행육면체의 부피와 같으며, 이를 통해 기하학적 해석이 가능하다.
• m개의 변수가 차원 수 m과 동일할 경우, UIC는 그들의 표준화된 벡터들로 구성된 행렬의 행렬식의 절대값과 같다.
• 세 변수에 대한 UCC는 $ r_{abc} = \sqrt{1 - \sin^2\alpha \sin^2\eta} $로 주어지며, 여기서 α는 두 고정된 벡터 사이의 각도이고, η는 세 번째 벡터와 첫 번째 두 벡터가 형성하는 평면 사이의 각도이다.
• 그림 5의 시각화 결과는 UCC 곡선이 각도 η로 측정된 기하학적 상관관계 강도와 거의 정확히 일치함을 보여주며, 이는 UCC가 다변량 상관관계 측정법으로 효과적임을 확인한다.