[论文解读] Model checking for generalized linear models: a dimension-reduction model-adaptive approach

Xu Guo, Li Zhu|arXiv (Cornell University)|May 9, 2014

Formal Methods in Verification参考文献 29被引用 5

一句话总结

本文提出了一种广义线性模型的降维模型自适应检验方法，克服了局部核平滑检验中的维数灾难问题。通过将高维预测变量投影到一个估计的最优一维子空间上，该方法在全局和局部备择假设下均实现了快速收敛速度和高检验功效，即使在高维情况下也能达到与单变量检验相当的性能。

ABSTRACT

Local smoothing testing that is based on multivariate nonparametric regression estimation is one of the main model checking methodologies in the literature. However, relevant tests suffer from the typical curse of dimensionality resulting in slow convergence rates to their limits under the null hypotheses and less deviation from the null under alternatives. This problem leads tests to not well maintain the significance level and to be less sensitive to alternatives. In this paper, a dimension-reduction model-adaptive test is proposed for generalized linear models. The test behaves like a local smoothing test as if the model were univariate, and can be consistent against any global alternatives and can detect local alternatives distinct from the null at a fast rate that existing local smoothing tests can achieve only when the model is univariate. Simulations are carried out to examine the performance of our methodology. A real data analysis is conducted for illustration. The method can readily be extended to global smoothing methodology and other testing problems.

研究动机与目标

• 解决广义线性模型局部核平滑检验中的维数灾难问题，该问题在高维设定下导致收敛速度缓慢和检验功效低下。
• 开发一种模型自适应检验方法，即使真实模型为多变量时，其表现也如同单变量局部核平滑检验。
• 确保检验在正确控制大小的同时，对全局和局部偏离均能实现快速检测速率。
• 提供一种对高维预测变量空间具有鲁棒性的方法，同时保持渐近效率和一致性。
• 将该方法扩展至全局平滑及其他广义线性模型以外的检验问题。

提出的方法

• 通过估计的最优方向 B，将高维预测变量向量 X 投影到一维子空间上，从而降低有效维度。
• 基于投影空间中参数模型与非参数回归之间差异的经验似然构造检验统计量。
• 使用带宽为 h 的核平滑方法估计投影空间中的条件均值差异，利用局部平滑技术。
• 对检验统计量应用降维变换，以消除对 E(Y|X) 的多变量非参数估计的需求。
• 使用一致的方差估计量对检验统计量进行标准化，以确保在原假设下其渐近分布为卡方分布。
• 通过推导在局部偏离下的检验统计量渐近分布，使检验适应局部备择假设，表明其可达到最优收敛速率。

实验结果

研究问题

• RQ1 广义线性模型的模型检验程序是否能在高维设定下，尽管存在维数灾难，仍保持高功效和正确的大小控制？
• RQ2 降维方法是否能使局部核平滑检验在高维模型中实现与单变量检验相同的收敛速率？
• RQ3 所提出的检验在高维情况下是否能比现有局部核平滑检验更快速地检测出与原假设不同的局部备择假设？
• RQ4 与标准局部核平滑方法相比，该模型自适应检验在全局备择假设下的表现如何？
• RQ5 该检验对模型误设是否具有鲁棒性，并且在原假设和局部备择假设下是否均保持一致性？

主要发现

• 在原假设下，所提出的检验达到 $ O(n^{-1/2}h^{-1/4}) $ 阶的收敛速率，与单变量局部核平滑检验的最优速率一致。
• 在局部备择假设下，当偏离速率慢于 $ n^{-1/2}h^{-1/4} $ 时，检验统计量以概率趋于发散，表明对局部偏离具有高度敏感性。
• 在原假设下，标准化检验统计量 $ T_n $ 的渐近分布为 $ rac{1}{2} imes ext{非中心化 } ilde{ ho}^2 $，非中心性参数为 $ rac{ u^2}{ ext{Var}} $，从而确保正确的大小控制。
• 该检验在全局备择假设下具有一致性，因为非中心性参数在全局偏离下趋于发散，导致原假设被拒绝的概率趋于 1。
• 模拟结果表明，在高维设定下，该方法的检验功效优于标准局部核平滑检验。
• 由于其模型自适应与降维结构，该方法可扩展至全局平滑及其他检验问题。