[论文解读] Universal Hypothesis Testing with Kernels: Asymptotically Optimal Tests for Goodness of Fit

Shengyu Zhu, Biao Chen+2 more|arXiv (Cornell University)|Feb 21, 2018

Statistical Methods and Inference参考文献 50被引用 3

一句话总结

该论文首次在一般样本空间（如ℝᵈ）上建立了基于核方法的非参数拟合优度检验的渐近最优性。通过大偏差理论和核分歧的弱可度量性，证明了基于最大均值差异（MMD）和核Stein分歧（KSD）的检验在适当约束下，能够实现类型-II错误概率的最优指数衰减率。

ABSTRACT

We characterize the asymptotic performance of nonparametric goodness of fit testing. The exponential decay rate of the type-II error probability is used as the asymptotic performance metric, and a test is optimal if it achieves the maximum rate subject to a constant level constraint on the type-I error probability. We show that two classes of Maximum Mean Discrepancy (MMD) based tests attain this optimality on $\mathbb R^d$, while the quadratic-time Kernel Stein Discrepancy (KSD) based tests achieve the maximum exponential decay rate under a relaxed level constraint. Under the same performance metric, we proceed to show that the quadratic-time MMD based two-sample tests are also optimal for general two-sample problems, provided that kernels are bounded continuous and characteristic. Key to our approach are Sanov's theorem from large deviation theory and the weak metrizable properties of the MMD and KSD.

研究动机与目标

• 解决非参数拟合优度检验在通用假设检验中长期存在的统计最优性开放问题。
• 以类型-II错误概率的指数衰减率作为关键度量，表征基于核的检验的渐近性能。
• 在水平约束下建立MMD和KSD检验的最优性，特别是在高维和非有限样本空间中。
• 将最优性结果扩展至两样本检验场景，其中样本量按相同比例增长，且核函数为有界连续和特征核。

提出的方法

• 利用大偏差理论中的Sanov定理，分析基于核的检验的接受域的渐近行为。
• 应用MMD和KSD的弱可度量性，直接分析检验区域，无需依赖检验统计量作为中间步骤。
• 提出一种简单的MMD检验方法，通过蒙特卡洛采样获得阈值，将样本的经验分布与模型分布$P$进行比较。
• 通过从$P$中抽取$\omega(n)$个样本，将拟合优度问题转化为两样本问题，从而适配两样本检验框架。
• 对KSD检验放宽第一类错误约束为渐近形式，以在附加正则性条件下实现最优指数衰减率。
• 采用自助法和野质自助法估计经验评估的临界阈值，核带宽通过中位数法则或网格搜索选择。

实验结果

研究问题

• RQ1 在非参数拟合优度检验中，当备择分布已知时，类型-II错误的概率衰减率是否可与简单假设检验中的最优指数衰减率相同？
• RQ2 MMD检验在一般波兰空间（如ℝᵈ）上的通用假设检验中是否具有渐近最优性？
• RQ3 在通用设定下，KSD检验是否可在放宽第一类错误约束的条件下实现最优指数衰减率？
• RQ4 当样本量按相同比例增长，且核函数为有界连续和特征核时，二次时间复杂度的MMD两样本检验是否对一般两样本问题最优？

主要发现

• 在第一类错误水平恒定的约束下，两类MMD检验在ℝᵈ上的通用假设检验中，均实现了类型-II错误概率的最优指数衰减率。
• 在满足附加正则性条件时，二次时间复杂度的KSD检验在渐近水平约束下实现了最大指数衰减率。
• 当样本量按相同阶次增长时，二次时间复杂度的MMD两样本检验对一般两样本问题具有渐近最优性，且衰减率与有界连续和特征核的选择无关。
• 通过Sanov定理的大偏差分析以及核分歧的弱可度量性，建立了MMD和KSD检验的最优性。
• 实验结果表明，MMD和KSD检验的第一类错误保持在名义水平$\alpha=0.1$附近，而第二类错误性能对核带宽和样本量敏感。
• 尽管有限样本性能受核选择和分布的影响，但理论最优性在大样本极限下成立，证实了核方法在渐近效率上的优越性。