[论文解读] Copula Correlation: An Equitable Dependence Measure and Extension of Pearson's Correlation

A. Adam Ding, Yi Li|arXiv (Cornell University)|Dec 27, 2013

Financial Risk and Volatility Modeling参考文献 49被引用 21

一句话总结

本文提出了一种基于Copula密度与独立性之间L₁距离的新型依赖度量——Copula相关性（Ccor），作为皮尔逊相关系数的公平扩展。Ccor在理论上被证明具有鲁棒公平性且可一致估计，在反映噪声数据中隐藏的确定性信号强度方面优于互信息（MI）和MIC。

ABSTRACT

In Science, Reshef et al. (2011) proposed the concept of equitability for measures of dependence between two random variables. To this end, they proposed a novel measure, the maximal information coefficient (MIC). Recently a PNAS paper (Kinney and Atwal, 2014) gave a mathematical definition for equitability. They proved that MIC in fact is not equitable, while a fundamental information theoretic measure, the mutual information (MI), is self-equitable. In this paper, we show that MI also does not correctly reflect the proportion of deterministic signals hidden in noisy data. We propose a new equitability definition based on this scenario. The copula correlation (Ccor), based on the L1-distance of copula density, is shown to be equitable under both definitions. We also prove theoretically that Ccor is much easier to estimate than MI. Numerical studies illustrate the properties of the measures.

研究动机与目标

• 为解决现有依赖度量（尤其是互信息（MI）和最大信息系数（MIC））在反映隐藏于噪声数据中的确定性关系强度方面的局限性。
• 定义一种新的公平性准则，强调度量正确量化均匀噪声中确定性信号比例的能力。
• 提出并理论上验证一种新的依赖度量——Copula相关性（Ccor），使其在该新定义下具备自公平性和鲁棒公平性。
• 证明Ccor在满足Copula密度的合理Hölder条件下，具有更快的收敛速度，且可一致估计，优于MI。
• 为未来Ccor的多变量扩展及改进估计技术（如基于KNN或RKHS的方法）奠定基础。

提出的方法

• 基于均匀噪声中确定性信号的比例，定义一种新的公平性准则，确保度量能正确反映确定性关系的真实强度。
• 提出Ccor为Copula密度与独立Copula之间L₁距离的一半，数学表达为 $ Ccor = \frac{1}{2} \int |c(u,v) - 1| \, du \, dv $，其中 $ c(u,v) $ 为Copula密度。
• 使用带紧支撑核的核密度估计（KDE）来估计Copula密度，并推导估计器均方误差的理论界。
• 通过将估计误差分解为两部分（Copula密度Hölder连续区域与无界区域），利用切比雪夫不等式处理无界区域，建立Ccor估计器的误差界。
• 证明在修改后的Hölder条件下，Ccor估计器的期望误差收敛速率为 $ O(h + \frac{1}{\sqrt{n}h}) $，无界区域还包含额外项。
• 证明在相同条件下，Ccor的收敛速度显著快于MI，这是由于L₁距离的L₁基鲁棒性所致。

实验结果

研究问题

• RQ1 能否设计一种依赖度量，使其在反映噪声数据中确定性关系强度时，既具备自公平性又具备鲁棒公平性？
• RQ2 尽管互信息（MI）具备自公平性，它是否能正确反映均匀噪声中确定性信号的比例？
• RQ3 在Copula密度的合理光滑性条件下，Copula相关性（Ccor）是否可一致估计？
• RQ4 在Hölder型条件下，Ccor的收敛速度与互信息（MI）相比如何？
• RQ5 Ccor能否作为皮尔逊相关系数在噪声数据中非线性确定性关系上的合理、有原则的扩展？

主要发现

• Ccor被证明具有鲁棒公平性，即能正确反映均匀噪声中确定性信号的比例，而MI则不满足此标准。
• 在新公平性定义下，Ccor具备自公平性，满足相同强度关系（线性或非线性）应获得相同评分的要求。
• Ccor估计器的理论收敛速率为 $ O(h + \frac{1}{\sqrt{n}h}) $，在相同Hölder条件下，显著快于MI估计器的收敛速度。
• 基于KDE的Ccor估计器在Copula密度满足修改后的Hölder条件时，可实现一致估计，该条件比MI估计中假设的标准Hölder条件更符合实际。
• 数值实验与真实数据分析结果表明，Ccor在噪声环境中准确排序依赖强度方面，优于MIC与MI。
• 本文指出，MI估计不可靠的原因不仅在于方差，更根本的原因在于其与测量噪声中确定性信号强度目标的根本性错位。