[论文解读] Measures of Linear Correlation for Multiple Variables

Jianji Wang, Nanning Zheng|arXiv (Cornell University)|Jan 20, 2014

Random Matrices and Applications参考文献 3被引用 3

一句话总结

本文引入了一对新颖的系数——多变量线性相关系数（LCC）和线性不相关系数（LIC），用于量化多变量线性相关性和无关性。该方法将皮尔逊相关系数推广至多变量情形，实现了紧凑的分解，并为行列式的多变量线性依赖性提供了新的几何解释。

ABSTRACT

Multivariate linear correlation analysis plays an important role in various fields such as statistics, economics, and big data analytics. However, there was no compact formulation to define and measure multivariate linear correlation. In this paper, we propose a pair of coupling coefficients, the multivariate linear correlation coefficient (LCC) and linear incorrelation coefficient (LIC), to measure the strength of multivariate linear correlation and linear irrelevance. Pearson's correlation coefficient is a special case of the proposed multivariate LCC for two variables. Based on the proposed multivariate LIC, a compact formula of LIC for linear decomposition is also presented in this paper. The experiment results show that the proposed multivariate LCC is an effective measure for multivariate linear correlation, and a new explanation of determinant is also made from the view of multivariate linear correlation.

研究动机与目标

• 为统计和数据分析应用中多变量线性相关性的测量提供一种紧凑且有原则的公式化方法。
• 定义一种对称且可解释的多变量间线性依赖度量，将二元相关性推广至高维空间。
• 开发一种互补的线性无关性度量（LIC），以实现多变量线性结构的分解。
• 通过所提出的框架，为行列式提供一种关于多变量线性相关的新型几何解释。

提出的方法

• 基于协方差结构，提出多变量线性相关系数（LCC），作为皮尔逊相关系数向多变量情形的推广。
• 引入线性不相关系数（LIC）作为对偶度量，用于量化线性无关性，从而实现多变量线性关系的分解。
• 推导出LIC的紧凑解析公式，促进多变量数据结构的线性分解。
• 基于多元正态分布假设，推导LCC和LIC的理论性质。
• 将系数应用于真实数据，验证其在测量多变量线性依赖性方面的有效性。
• 通过所提出的框架，将协方差矩阵的行列式重新解释为多变量线性相关强度的度量。

实验结果

研究问题

• RQ1 如何在成对相关性之外，对多变量线性相关性进行形式化且紧凑的测量？
• RQ2 所提出的LCC与皮尔逊相关系数r等现有相关度量之间存在何种数学关系？
• RQ3 能否定义一种线性无关性的对偶度量（LIC），以实现多变量线性结构的分解？
• RQ4 所提出的框架如何将协方差矩阵的行列式重新解释为多变量相关性的度量？
• RQ5 有哪些实证证据支持LCC在捕捉多变量线性依赖性方面的有效性？

主要发现

• 所提出的多变量LCC将皮尔逊相关系数推广至多变量情形，提供了一致且对称的线性依赖度量。
• 线性不相关系数（LIC）实现了多变量线性结构的紧凑分解，为数据分解提供了新的分析工具。
• 通过所提出的框架，协方差矩阵的行列式被重新解释为多变量线性相关强度的度量。
• 实验结果证实，多变量LCC能有效捕捉多变量数据中线性关系的强度。
• 理论推导建立了多变量线性相关性与协方差矩阵几何性质之间的清晰联系。