[论文解读] Inference in Perturbation Models, Finite Mixtures and Scan Statistics: The Volume-of-Tube Formula

Ramani S. Pilla, Catherine Loader|ArXiv.org|Nov 20, 2005

Bayesian Methods and Mixture Models参考文献 40被引用 6

一句话总结

该论文通过在局部偏离的零模型中建模扰动，为非正则统计问题（如分量混合模型阶数检验和空间扫描统计量）构建了一个统一的推断框架。它提出了一种类似似然比检验的检验量，其渐近分布通过管体积公式近似，即使在边界参数和奇点存在的情况下也能实现精确分位数估计。

ABSTRACT

This research creates a general class of "perturbation models" which are described by an underlying "null" model that accounts for most of the structure in data and a perturbation that accounts for possible small localized departures. The perturbation models encompass finite mixture models and spatial scan process. In this article, (1) we propose a new test statistic to detect the presence of perturbation, including the case where the null model contains a set of nuisance parameters, and show that it is equivalent to the likelihood ratio test; (2) we establish that the asymptotic distribution of the test statistic is equivalent to the supremum of a Gaussian random field over a high-dimensional manifold (e.g., curve, surface etc.) with boundaries and singularities; (3) we derive a technique for approximating the quantiles of the test statistic using the Hotelling-Weyl-Naiman "volume-of-tube formula"; and (4) we solve the long-pending problem of testing for the order of a mixture model; in particular, derive the asymptotic null distribution for a general family of mixture models including the multivariate mixtures. The inferential theory developed in this article is applicable for a class of non-regular statistical problems involving loss of identifiability or when some of the parameters are on the boundary of the parametric space.

研究动机与目标

• 解决长期存在的有限混合模型阶数检验难题，特别是当零假设涉及参数空间边界上的参数时。
• 为零模型可识别但备择模型引入局部非正则扰动的扰动模型，建立一般性推断理论。
• 解决在非正则设定（如有限混合模型和空间扫描过程）中似然比统计量的分位数近似问题。
• 为高维、曲面或奇异参数空间中的临界值计算提供一种实用且理论基础坚实的计算方法。
• 将管体积公式扩展至具有边界和奇点的流形，以实现在复杂模型中的精确推断。

提出的方法

• 提出一类广义扰动模型，由零密度 $ f(x;\boldsymbol{\lambda}) $ 和扰动 $ \eta \psi(x;\boldsymbol{\theta}) $ 定义，其中 $ \eta \in [0,1] $，用于建模局部偏离。
• 推导检验 $ \mathcal{H}_0: \eta = 0 $ 对 $ \mathcal{H}_1: \eta > 0 $ 的似然比检验统计量，在温和光滑性条件下证明其与标准似然比检验等价。
• 证明似然比检验统计量的渐近零分布对应于高维流形上高斯随机场的上确界，该流形具有边界和奇点。
• 应用霍托林-外尔-奈曼管体积公式，通过计算体积、边界长度、曲率和角点测度等几何量，近似检验统计量的尾部概率。
• 推导出管体积的显式表达式，包含至四阶项，利用贝塔分布尾部概率引入边界和角点校正。
• 在维度 $ d=3 $ 以内实现该公式，符号计算几何系数 $ \kappa_0, \ell_0, \kappa_2, \ell_1, \nu_0, \ell_2, \nu_1, m_0 $，并利用欧拉-庞加莱示性数简化低维情况下的曲率项。

实验结果

研究问题

• RQ1 当感兴趣参数位于参数空间边界上时，似然比检验的渐近零分布应如何近似？
• RQ2 高斯随机场在具有边界和奇点的流形上上确界的分布，其正确的几何近似是什么？
• RQ3 管体积公式能否扩展至处理混合模型和扫描统计量中出现的非紧致、非凸和曲面参数空间？
• RQ4 如何系统性地将边界和角点效应纳入管公式，以提高高维推断的准确性？
• RQ5 有限混合模型阶数的似然比检验的精确渐近零分布是什么，包括多变量混合模型？

主要发现

• 扰动模型中似然比检验统计量的渐近零分布等价于具有边界和奇点的流形上高斯随机场的上确界。
• 管体积公式能对检验统计量的分位数提供精确近似，即使在标准卡方近似失效的非正则设定下也成立。
• 边界和角点校正通过涉及边界体积 $ \ell_0 $、曲率 $ \kappa_2 $ 和旋转测度 $ \ell_1, \nu_0 $ 的几何积分推导得出，其表达式明确以贝塔分布尾部概率表示。
• 在 $ d=2 $ 时，欧拉-庞加莱示性数通过消除对 $ \kappa_2, \ell_1, \nu_0 $ 的直接计算需求，简化了计算，当 $ \mathcal{E} = 1 $ 时尤其有效。
• 管体积展开中的主导项为 $ \zeta_0^J = \int_{\boldsymbol{\Theta}} \left| \det[\nabla_1 \nabla_2^T \rho_J(\boldsymbol{\theta}, \boldsymbol{\theta})] \right|^{1/2} d\boldsymbol{\theta} $，代表参数流形的内在体积。
• 该方法已实现至维度 $ d=3 $，并提供完整的软件库，支持管公式中所有至四阶校正项的几何量。