[論文レビュー] From Distance Correlation to Multiscale Generalized Correlation

Cencheng Shen, Carey E. Priebe+1 more|arXiv (Cornell University)|Oct 26, 2017

Gene expression and cancer classification被引用数 5

ひとこと要約

この論文は、特徴関数と近隣探索手法を用いて、多スケール一般化相関（MGC）の集団バージョンを形式化し、アルゴリズム的サンプルMGCを強化する理論的基盤を確立する。漸近的および有限標本の性質を証明し、非線形的および多次元的な依存関係——特にそれら——を検出する際のMGCの優れた検出力（パワー）を示す。同時に、単調な関係に対しても高いパワーを維持する。

ABSTRACT

Understanding and developing a correlation measure that can detect general dependencies is not only imperative to statistics and machine learning, but also crucial to general scientific discovery in the big data age. We proposed the Multiscale Generalized Correlation (MGC) in Shen et al. 2017 as a novel correlation measure, which worked well empirically and helped a number of real data discoveries. But there is a wide gap with respect to the theoretical side, e.g., the population statistic, the convergence from sample to population, how well does the algorithmic Sample MGC perform, etc. To better understand its underlying mechanism, in this paper we formalize the population version of local distance correlations, MGC, and the optimal local scale between the underlying random variables, by utilizing the characteristic functions and incorporating the nearest-neighbor machinery. The population version enables a seamless connection with, and significant improvement to, the algorithmic Sample MGC, both theoretically and in practice, which further allows a number of desirable asymptotic and finite-sample properties to be proved and explored for MGC. The advantages of MGC are further illustrated via a comprehensive set of simulations with linear, nonlinear, univariate, multivariate, and noisy dependencies, where it loses almost no power against monotone dependencies while achieving superior performance against general dependencies.

研究の動機と目的

• 多スケール一般化相関（MGC）の理論的ギャップ、特にその集団定式化と標本から集団への収束を理解するための空白を埋める。
• 局所的距離相関と最適な局所スケールの集団バージョンを形式化することで、MGCに厳密な理論的枠組みを構築する。
• 理論的知見を活用してアルゴリズム的サンプルMGCを改善し、より強い漸近的および有限標本の性質を実現する。
• 非線形的、多次元的、ノイズの多い関係を含む、多様な依存関係タイプにおいて、MGCが一般依存関係を検出する際の優位性を示す。同時に、単調な依存関係に対してもパワーを維持する。

提案手法

• 特徴関数を用いて、背後にある依存構造を記述する局所的距離相関の集団バージョンを形式化する。
• 集団設定下での確率変数間の最適な局所スケールを推定するために、近隣探索の仕組みを統合する。
• 多スケール一般化としての局所相関の一般化として、集団MGC統計量を導出する。
• 集団MGCとアルゴリズム的サンプルMGCの間の滑らかな理論的接続を確立し、収束性と性能の向上を図る。
• 特徴関数を用いて同時分布と依存構造を特徴付け、集団レベルの相関測度を正確に計算可能にする。
• 形式化された集団フレームワークに基づき、MGCの漸近的および有限標本の性質（一貫性、パワー分析など）を証明する。

実験結果

リサーチクエスチョン

• RQ1 MGCの集団バージョンとは何か？ そして、標本ベースのアルゴリズム的実装とはどのように関係しているか？
• RQ2 特徴関数を用いた集団定式化から、確率変数間の最適な局所スケールはどのように導かれるか？
• RQ3 理論的枠組みは、サンプルMGCの収束性と有限標本性能をどの程度向上させるか？
• RQ4 線形的、非線形的、単変量的、多次元的、ノイズの多い依存関係を含む多様な依存タイプにおいて、MGCは既存の相関測度と比べてどの程度パワーに優れているか？
• RQ5 MGCの理論的基盤は、実データ探索タスクにおけるその実証的成功を説明できるか？

主な発見

• MGCの集団バージョンは、特徴関数と近隣探索手法を用いて形式的に導出され、厳密な理論的基盤が確立された。
• 理論的枠組みにより、集団MGCとアルゴリズム的サンプルMGCの間の強力な収束性が確立され、漸近的保証が向上した。
• MGCは単調な依存関係に対してほとんどパワーを失わず、非線形的および多次元的依存関係の検出において、既存手法を著しく上回る。
• 特にノイズが多く複雑な依存構造においても、理論的根拠の向上により、優れた有限標本性能を達成した。
• 包括的なシミュレーションにより、MGCが単変量的、多次元的、ノイズを含む設定において、多様な依存タイプにわたって頑健で高いパワーを持つことが確認された。
• 形式化により、一貫性や一般依存への感受性といった望ましい漸近的および有限標本の性質の証明が可能になった。