[論文レビュー] Hypothesis testing using pairwise distances and associated kernels

Dino Sejdinović, Arthur Gretton+2 more|arXiv (Cornell University)|May 2, 2012

Statistical Methods and Inference参考文献 26被引用数 26

ひとこと要約

本稿は、負型の半距離を用いたエネルギー距離と、カーネルに基づく手法を、2標本検定および独立性検定において統一する枠組みを確立する。具体的には、負型の半距離を用いたエネルギー距離が、特定のカーネルを介してRKHS距離に正確に一致することを示す。また、このようなカーネルが特徴的（特徴的）である確率分布のクラスを同定し、一般的に用いられるエネルギー距離よりもより高い検出力を持つ、同じ族に属する代替カーネルが統計的検定においてより優れた性能を示すことを示している。

ABSTRACT

We provide a unifying framework linking two classes of statistics used in two-sample and independence testing: on the one hand, the energy distances and distance covariances from the statistics literature; on the other, distances between embeddings of distributions to reproducing kernel Hilbert spaces (RKHS), as established in machine learning. The equivalence holds when energy distances are computed with semimetrics of negative type, in which case a kernel may be defined such that the RKHS distance between distributions corresponds exactly to the energy distance. We determine the class of probability distributions for which kernels induced by semimetrics are characteristic (that is, for which embeddings of the distributions to an RKHS are injective). Finally, we investigate the performance of this family of kernels in two-sample and independence tests: we show in particular that the energy distance most commonly employed in statistics is just one member of a parametric family of kernels, and that other choices from this family can yield more powerful tests. Copyright 2012 by the author(s)/owner(s).

研究の動機と目的

• 統計学におけるエネルギー距離と機械学習におけるRKHSに基づく距離埋め込みの2つの代表的クラスを統一すること。
• 負型の半距離を用いたエネルギー距離が、ある誘導されたカーネルを介してRKHS距離に正確に一致する条件を確立すること。
• その誘導されたカーネルが特徴的（つまり、RKHSへの単射埋め込みが保証される）確率分布のクラスを特定すること。
• 提案されたカーネル族の実験的性能を2標本検定および独立性検定において評価し、標準的なエネルギー距離よりも優れた代替カーネルを同定すること。

提案手法

• RKHSにおける確率測度の埋め込みに適した負型の半距離のクラスを定義する。
• そのようなカーネルを用いた場合、確率測度間のRKHS距離が、対応する半距離を用いたエネルギー距離に等しいことを示す。
• 誘導されたカーネルが特徴的となる確率分布の集合を特徴づける。これにより、異なる分布がRKHS内で異なる要素に一意に写像されることを保証する。
• エネルギー距離フレームワークから、半距離の選択をパrameterとするパラメトリックなカーネル族を導出する。
• 得られたカーネルを2標本検定および独立性検定に適用し、異なるパrameter選択における検出力の比較を行う。
• 理論的および実験的分析を用いて、カーネル族の一部が標準的なエネルギー距離よりも優れた検出力を示すことを示す。

実験結果

リサーチクエスチョン

• RQ1 負型の半距離を用いたエネルギー距離が、確率測度間のRKHS距離に正確に一致する条件は何か？
• RQ2 負型の半距離を用いて誘導されたカーネルが特徴的となる確率分布はどのようなものか？
• RQ3 エネルギー距離に基づくパラメトリックなカーネル族に属する代替カーネルは、標準的なエネルギー距離よりも、2標本検定および独立性検定においてより高い検出力を発揮できるか？
• RQ4 この族内での半距離の選択が、実際の検定性能にどのように影響を与えるか？

主な発見

• 負型の半距離を用いたエネルギー距離は、誘導されたカーネルを介してRKHS距離に数学的に正確に一致し、2つの統計的検定フレームワークを統一する理論的リンクを提供する。
• 誘導されたカーネルが特徴的となる確率分布のクラスは完全に特徴づけられており、これにより異なる分布がRKHS内で異なる要素に一意に写像されることを保証する。
• 統計学で一般的に用いられる標準的なエネルギー距離は、負型の半距離から導出されるパラメトリックなカーネル族の1つの例にすぎない。
• このカーネル族に属する他のメンバーは、元の分布の特性に応じて、標準的なエネルギー距離よりも顕著に高い検出力を示す2標本検定および独立性検定を実現できる。
• 半距離に基づく構築におけるパラメトリックな柔軟性を活用することで、統計的検定のためのより優れたカーネルの体系的選択が可能になる。