[論文レビュー] Copula Correlation: An Equitable Dependence Measure and Extension of Pearson's Correlation

A. Adam Ding, Yi Li|arXiv (Cornell University)|Dec 27, 2013

Financial Risk and Volatility Modeling参考文献 49被引用数 21

ひとこと要約

本稿では、独立性からのコプシラ密度のL₁距離に基づく新しい従属度測度であるコプシラ相関（Ccor）を提案する。これはピアソンの相関の公平性に優れた拡張であり、ノイズのあるデータにおける決定的信号強度を反映する点で、相互情報量（MI）やMICを凌駃する。Ccorは理論的にロバスト・公平性と一貫した推定可能性を保証されており、ノイズのあるデータにおいて優れた性能を示す。

ABSTRACT

In Science, Reshef et al. (2011) proposed the concept of equitability for measures of dependence between two random variables. To this end, they proposed a novel measure, the maximal information coefficient (MIC). Recently a PNAS paper (Kinney and Atwal, 2014) gave a mathematical definition for equitability. They proved that MIC in fact is not equitable, while a fundamental information theoretic measure, the mutual information (MI), is self-equitable. In this paper, we show that MI also does not correctly reflect the proportion of deterministic signals hidden in noisy data. We propose a new equitability definition based on this scenario. The copula correlation (Ccor), based on the L1-distance of copula density, is shown to be equitable under both definitions. We also prove theoretically that Ccor is much easier to estimate than MI. Numerical studies illustrate the properties of the measures.

研究の動機と目的

• 既存の従属度測度—特に相互情報量（MI）および最大情報係数（MIC）—がノイズのあるデータに隠された決定的関係の強度を正しく反映できないという限界を是正すること。
• 一様ノイズにおける決定的信号の割合を正しく測定できる能力を重視する、新たな公平性基準を定義すること。
• この新しい定義に基づき、自己公平性およびロバスト・公平性を満たす新しい従属度測度、コプシラ相関（Ccor）を提案し、理論的に妥当性を検証すること。
• Ccorがコプシラ密度の実際の Hölder 条件を満たす現実的な条件下で、一貫した推定が可能であることを示すこと。
• Ccorの将来的な多変量拡張および推定技術の向上（例：KNNベースやRKHSベースの手法）の基盤を提供すること。

提案手法

• 一様ノイズにおける決定的信号の割合に基づく、新たな公平性基準を定義し、従属度測度が決定的関係の真の強度を正しく反映することを保証する。
• Ccorをコプシラ密度と独立性コプシラの間のL₁距離の半分として定義し、数式的には $ Ccor = \frac{1}{2} \int |c(u,v) - 1| \, du \, dv $ と表す。ここで $ c(u,v) $ はコプシラ密度を表す。
• 有界カーネルを用いたカーネル密度推定（KDE）によりコプシラ密度を推定し、推定量の平均二乗誤差に対する理論的上限を導出する。
• 推定誤差を2つの領域に分解してCcor推定量の誤差上限を確立する：コプシラ密度がHölder連続である領域と、有界でない領域。後者にはチェビシェフの不等式を適用する。
• 修正されたHölder条件の下で、Ccor推定量の期待誤差が $ O(h + \frac{1}{\sqrt{n}h}) $ の速度で収束することを証明する。有界でない領域には追加の項が加わる。
• L₁距離のL₁ベースのロバスト性により、同じ条件下でCcorの収束速度はMIのそれよりも顕著に速いことが示される。

実験結果

リサーチクエスチョン

• RQ1 ノイズのあるデータにおける決定的関係の強度を反映するにあたり、従属度測度が自己公平性とロバスト・公平性を両立させられるか？
• RQ2 自己公平性を満たすにもかかわらず、相互情報量（MI）は一様ノイズにおける決定的信号の割合を正しく反映しているのか？
• RQ3 コプシラ相関（Ccor）はコプシラ密度の滑らかさの現実的な条件のもとで一貫した推定が可能か？
• RQ4 Hölder型の条件のもとで、Ccorの収束速度はMIのそれと比べてどの程度異なるか？
• RQ5 Ccorはノイズのあるデータにおける非線形決定的関係へのピアソン相関の原理的で公平な拡張として機能できるか？

主な発見

• Ccorはロバスト・公平性を理論的に証明されており、MIとは異なり、一様ノイズにおける決定的信号の割合を正しく反映する。
• 新しい公平性定義のもとでCcorは自己公平性を満たしており、線形でも非線形でも同じ強度の関係が等価なスコアを得るという要件を満たす。
• Ccor推定量の理論的収束速度は $ O(h + \frac{1}{\sqrt{n}h}) $ であり、同じHölder条件のもとでMI推定量の収束速度よりも顕著に速い。
• コプシラ密度に修正されたHölder条件を課したKDEベースのCcor推定量は、MI推定で仮定される標準的なHölder条件よりも現実的である条件下で一貫した推定が可能である。
• 数値実験および実データ解析により、Ccorがノイズの存在下でMICおよびMIを凌駃し、従属度の強さを正確にランク付けできることを確認した。
• 本稿では、MI推定の信頼性の低さは分散の問題にとどまらず、ノイズにおける決定的信号強度を測定する目的と根本的に不整合であることが同定された。