[論文レビュー] Universal Hypothesis Testing with Kernels: Asymptotically Optimal Tests for Goodness of Fit

Shengyu Zhu, Biao Chen+2 more|arXiv (Cornell University)|Feb 21, 2018

Statistical Methods and Inference参考文献 50被引用数 3

ひとこと要約

本稿は、ℝᵈ などの一般の標本空間における普遍的仮説検定に対して、カーネル法を用いた非パラメトリックな適合度検定の、初めての漸近的最適性を確立する。大偏差理論とカーネル不一致の弱メトリシティを用いて、最大平均不一致（MMD）およびカーネルスティン不一致（KSD）に基づく検定が、適切な制約下で第II種誤り確率の最適な指数的減衰率を達成することを証明する。

ABSTRACT

We characterize the asymptotic performance of nonparametric goodness of fit testing. The exponential decay rate of the type-II error probability is used as the asymptotic performance metric, and a test is optimal if it achieves the maximum rate subject to a constant level constraint on the type-I error probability. We show that two classes of Maximum Mean Discrepancy (MMD) based tests attain this optimality on $\mathbb R^d$, while the quadratic-time Kernel Stein Discrepancy (KSD) based tests achieve the maximum exponential decay rate under a relaxed level constraint. Under the same performance metric, we proceed to show that the quadratic-time MMD based two-sample tests are also optimal for general two-sample problems, provided that kernels are bounded continuous and characteristic. Key to our approach are Sanov's theorem from large deviation theory and the weak metrizable properties of the MMD and KSD.

研究の動機と目的

• 非パラメトリックな適合度検定の統計的最適性に関する、長年の未解決問題である普遍的仮説検定における解決。
• 第II種誤り確率の指数的減衰率を主要指標として用いて、カーネルベースの検定の漸近的性能を特徴づけること。
• 特に高次元および非有限の標本空間において、MMDおよびKSDに基づく検定の最適性を確立すること。
• 有界連続かつ特徴的カーネルを用いる場合に、標本サイズが同程度にスケーリングされる二標本検定の設定へ、最適性結果を拡張すること。

提案手法

• 大偏差理論のサンノフの定理を用いて、カーネルベースの検定の受容域の漸近的挙動を分析する。
• MMDおよびKSDの弱メトリシティの性質を適用し、検定統計量を中間手段とせず、直接的に検定領域を分析する。
• モンテカルロサンプルを用いて導出されたしきい値を用いて、標本の実現分布とモデル分布 $P$ を比較する単純なMMDベースの検定を提案する。
• 標本数が $\omega(n)$ 増えるように $P$ からサンプルを抽出することで、二標本検定フレームワークを変形し、適合度問題を二標本問題に変換する。
• KSDベースの検定において、第I種誤り制約を漸近的ものに緩和することで、追加の正則性条件のもとで最適な指数的減衰率を達成する。
• ブートストラップおよびワイルドブートストラップ法を用いて、実効的評価のための臨界しきい値を推定し、カーネル帯域幅は中央値ヒューリスティクスまたはグリッドサーチにより選択する。

実験結果

リサーチクエスチョン

• RQ1 非パラメトリックな適合度検定は、代替分布が既知である単純仮説検定の場合と同様に、第II種誤りの指数的減衰率を達成できるか？
• RQ2 MMDに基づく検定は、ℝᵈ などの一般のポーランド空間における普遍的仮説検定で漸近的に最適性を達成できるか？
• RQ3 KSDに基づく検定は、普遍的設定において第I種誤り制約を緩和した場合に、最適な指数的減衰率を達成できるか？
• RQ4 標本サイズが同程度にスケーリングされる一般の二標本問題において、2次時間のMMDベースの二標本検定は最適か？（ただしカーネルは有界連続かつ特徴的であるものとする。）

主な発見

• 定数レベル制約下で、第I種誤り確率に一定の制限を課した場合、2種類のMMDベースの検定が、ℝᵈ における普遍的仮説検定で第II種誤り確率の最適な指数的減衰率を達成する。
• 2次時間のKSDベースの検定は、漸近的レベル制約のもとで、追加の正則性条件を満たす限り、最大の指数的減衰率を達成する。
• 標本サイズが同程度にスケーリングされる一般の二標本問題において、2次時間のMMDベースの二標本検定は漸近的に最適であり、有界連続かつ特徴的カーネルの選択に依存しない減衰率を示す。
• MMDおよびKSD検定の最適性は、サンノフの定理を用いた大偏差解析と、カーネル不一致の弱メトリシティを用いて確立される。
• 実験的結果では、MMDおよびKSD検定は第I種誤りが名目水準 $\alpha=0.1$ に近い水準を維持しており、第II種誤りの性能はカーネル帯域幅と標本サイズに敏感であることが示された。
• 有限標本における性能はカーネルの選択や分布に依存するが、大標本の極限では理論的最適性が保たれ、カーネル法の漸近的効率性の優位性が確認された。