[論文レビュー] fasano.franceschini.test: An Implementation of a Multidimensional KS Test in R

Connor Puritz, Elan Ness-Cohn+1 more|arXiv (Cornell University)|Jun 19, 2021

Bayesian Modeling and Causal Inference被引用数 5

ひとこと要約

本稿では、Fasano–Franceschini多次元2標本コルモゴロフ–スミルノフ検定を実装する fasano.franceschini.test Rパッケージを提示する。この手法は、任意の次元およびデータ型（連続的、離散的、混合）の多変量分布を効率的に比較できる。テスト統計量をすべての座標組み合わせではなく標本点に制限して最大化することで、計算複雑性を低減し、特にコプシラベースの代替仮説においても競争力のある検出力を持つ一方で、高次元データに対しても計算的に実行可能である。

ABSTRACT

The Kolmogorov-Smirnov (KS) test is a nonparametric statistical test used to test for differences between univariate probability distributions. The versatility of the KS test has made it a cornerstone of statistical analysis across many scientific disciplines. However, the test proposed by Kolmogorov and Smirnov does not easily extend to multidimensional distributions. Here we present the fasano.franceschini.test package, an R implementation of a multidimensional two-sample KS test described by Fasano and Franceschini (1987). The fasano.franceschini.test package provides a test that is computationally efficient, applicable to data of any dimension and type (continuous, discrete, or mixed), and that performs competitively with similar R packages.

研究の動機と目的

• 任意のデータ型および次元に適用可能な計算的に効率的で汎用性の高い多変量2標本 KS 検定が不足しているという問題を解決すること。
• 既存の多変量 KS 拡張手法が計算的に非現実的であるか、特定のデータ型や次元に限定されているという制限を克服し、R で Fasano–Franceschini 検定を実装すること。
• 正確な p 値計算と混合・高次元データに対する堅牢な処理を備えた、使いやすくパフォーマンスの高い R パッケージを提供すること。
• さまざまな分布的代替仮説の下で、提案手法の検出力と計算効率を、Cramér 検定および DiProPerm 検定といった既存の多変量適合度検定と比較してベンチマークすること。

提案手法

• テストは、各標本点によって定義される $2^d$ 個の直方体（orthant）において、経験的累積分布関数の最大絶対差を評価することで多次元 KS 統計量を計算する。
• 各点 $\mathbf{p}$ に対して、座標の差の符号によって定義される各直方体 $\mathcal{O}_j(\mathbf{p})$ に属する各標本の点の割合を計算する。
• テスト統計量 $D(\mathbf{p})$ は、2つの標本間のこれらの割合の絶対差の最大値として、すべての直方体に対してとる。
• p 値は、2つの標本をプールして繰り返し再割り当てることで、テスト統計量の帰無分布をモンテカルロパーミュテーション法で推定することで計算する。
• すべての座標組み合わせではなく標本点に制限して最大化することで、計算コストを立方体的から線形に削減する。
• 直方体所属確率の計算に指標関数を用いることで、連続的・離散的・混合データ型をサポートする。

実験結果

リサーチクエスチョン

• RQ1 Fasano–Franceschini 検定は、Cramér 検定および DiProPerm 検定と比較して、さまざまな種類の分布的代替仮説において、統計的検出力の点でどの程度優れているか？
• RQ2 周辺分布が同一であるが依存構造が異なる場合の高次元設定でも、Fasano–Franceschini 検定は高い検出力を維持できるか？
• RQ3 Fasano–Franceschini 検定の計算複雑性は、標本サイズおよび次元の増加に伴いどのように変化するか？大規模データに対して実行可能か？
• RQ4 周辺分布が同一だが依存性が異なるコプシラ構造を含む代替仮説において、Fasano–Franceschini 検定は既存手法を上回る性能を示すか？
• RQ5 特に位置および分散の代替仮説において、高次元化に伴い検定の性能はどの程度低下するか？

主な発見

• ガウスおよびクラッリーのコプシラベースの代替仮説では、Fasano–Franceschini 検定は Cramér 検定および DiProPerm 検定を一貫して上回り、次元 $d=10$ でほぼ1の検出力を達成した。
• 位置の代替仮説では、Fasano–Franceschini 検定の検出力は $d=5$ でピークに達し、その後 $d=20$ で $\alpha=0.05$ に低下したが、Cramér 検定および DiProPerm 検定は次元が増加するにつれて検出力を維持または向上させた。
• 分散の代替仮説では、Fasano–Franceschini 検定と Cramér 検定は低次元では同等の検出力を示したが、高次元では Cramér 検定がより高い検出力を維持した。
• DiProPerm 検定は、高密度領域の重なりが大きく、線形超平面による分離が困難なため、分散およびコプシラ代替仮説では $\alpha=0.05$ を超える検出力を達成できなかった。
• Fasano–Franceschini 検定は正確な p 値計算と効率的なスケーリングを備えており、混合または離散的データ型を含む高次元データに適している。
• パッケージ実装は計算的に効率的で、任意のデータ型および次元をサポートしており、CRAN およびプロジェクトウェブサイトで完全なドキュメンテーションとソースコードを提供している。