[論文レビュー] A Correlation-Based Distance

Jean-Luc Falcone, Paul Albuquerque|ArXiv.org|Feb 27, 2004

Neural Networks and Applications被引用数 4

ひとこと要約

本稿では、R^D 上の相関に基づく距離関数を提案する。この距離関数は、標準化・中心化された成分に基づき、それらを超球面にマッピングすることで、データポイント間の非類似度を測定する。距離は d(x,y) = sqrt(1 - [corr(x,y)]^2) で定義され、これは正規化されたベクトル間のなす角 α に対する sin(α) に等しい。重心は、球面制約下での類似共分散行列の固有値分解により導出される。

ABSTRACT

In this short technical report, we define on the sample space R^D a distance between data points which depends on their correlation. We also derive an expression for the center of mass of a set of points with respect to this distance.

研究の動機と目的

• データポイント間の相関構造を反映する R^D 上の新しい距離関数を定義すること。
• 高次元データにおける関係的パターンを捉えることができない標準ユークリッド距離の限界を是正すること。
• この相関に基づく距離関数を用いた超球面上での点群の重心を導出すること。
• 距離関数が対称性や非負性といった重要な性質を満たすことを保証すること（ただし、R^D 上では退化する）。
• ベクトルの方向的同値性を活用することで、射影空間 P^D において非退化な距離関数を確立すること。

提案手法

• 各データポイント x ∈ R^D ∕ Diag を、標準化・中心化された形 x* = (x - x̄)/σ_x に変換し、超球面 S^D(√D) にマッピングする。
• 相関に基づく距離を d(x,y) = √(1 - [corr(x,y)]^2) = √(1 - (x*·y*)²/D²) として定義する。これは、x* と y* のなす角 α に対する sin(α) に等しい。
• ラグランジュ乗数法を用いて、g が超球面 S^D(√D) 上にある制約下で、平均二乗距離 F(g) = (1/N)Σ[d(g,x_j)]² を最小化する。
• 最適化条件を M g = λ g として導出する。ここで M は、データポイントの外積から構成される対称 D×D 行列である。
• 重心 g を、M の最大固有値に対応する固有ベクトルとして求め、超球面上に正規化する。
• 距離関数は R^D 上で退化するが、ベクトルの方向的同値性により、射影空間 P^D 上では非退化となることを認識する。

実験結果

リサーチクエスチョン

• RQ1 R^D 上に、原始的なユークリッド差ではなく、相関関係を反映する距離関数をどのように定義できるか？
• RQ2 提案された相関に基づく距離関数の距離関数的性質（対称性、非負性、三角不等式）は何か？
• RQ3 この新しい距離関数の下で、点群の重心をどのように計算できるか？
• RQ4 この距離関数が非退化となる空間は何か、そしてその理由は何か？
• RQ5 この距離関数の下での重心の最適化問題の幾何学的・代数的構造は何か？

主な発見

• 提案された距離 d(x,y) = √(1 - [corr(x,y)]²) は、対称性と非負性を満たし、d(x,y) = 0 であることはかつて x* = ±y* であることと同値であり、完全相関を示す。
• 距離は、標準化されたベクトル x* と y* のなす角 α に対する sin(α) に等しく、幾何的解釈が確認される。
• 角度の加法性における正弦関数の劣加法性により、三角不等式が成立し、共面への回転による検証がなされた。
• 重心 g は、M = (1/(ND)) Σ_j x_j x_j^T に対応する最大固有値に対応する固有ベクトルとして得られ、超球面上に正規化される。
• 距離関数は R^D ∕ Diag 上で退化しており、d(x,y) = 0 であっても x = y とは限らないが、射影空間 P^D 上では非退化となる。
• 重心の最適化は固有値問題に帰着され、高次元データに対しても計算的に実行可能となる。