[论文解读] Robust Bayesian Modeling of Counts with Zero inflation and Outliers: Theoretical Robustness and Efficient Computation

Yasuyuki Hamura, Kaoru Irie+1 more|arXiv (Cornell University)|Jun 19, 2021

Advanced Statistical Methods and Models参考文献 33被引用 6

一句话总结

本文提出了一种针对具有零膨胀和异常值的计数数据的稳健贝叶斯框架，采用一种新颖的重缩放贝塔（RSB）分布来吸收极端值和过多的零值。该方法实现了高效的吉布斯抽样，并具备理论上的后验稳健性，能自动降低异常值和零膨胀观测的影响，而无需显式建模其生成机制，从而在层次模型中实现更可靠的推断。

ABSTRACT

Count data with zero inflation and large outliers are ubiquitous in many scientific applications. However, posterior analysis under a standard statistical model, such as Poisson or negative binomial distribution, is sensitive to such contamination. This study introduces a novel framework for Bayesian modeling of counts that is robust to both zero inflation and large outliers. In doing so, we introduce rescaled beta distribution and adopt it to absorb undesirable effects from zero and outlying counts. The proposed approach has two appealing features: the efficiency of the posterior computation via a custom Gibbs sampling algorithm and a theoretically guaranteed posterior robustness, where extreme outliers are automatically removed from the posterior distribution. We demonstrate the usefulness of the proposed method by applying it to trend filtering and spatial modeling using predictive Gaussian processes.

研究动机与目标

• 解决计数数据同时受零膨胀和大异常值影响时缺乏稳健统计模型的问题。
• 开发一种计算高效的贝叶斯方法，在极端值和过多零值的污染下仍能保持准确性。
• 确保理论后验稳健性，即异常值的影响随着数据点远离模型均值而减弱。
• 提供一种统一的建模方法，避免对零膨胀或异常值生成机制进行显式结构建模。
• 在数据受污染的情况下，实现层次模型（如空间模型和混合效应回归）中的可靠推断。

提出的方法

• 引入重缩放贝塔（RSB）分布作为泊松率参数的灵活、条件共轭先验，以吸收零值和异常值的影响。
• 采用层次混合模型，其中RSB分布作为率参数的稳健先验，替代标准的伽马或指数先验。
• 开发一种定制的吉布斯抽样算法，实现在各种模型（包括空间模型和回归模型）中的高效后验计算。
• 采用潜变量表示法来建模混合比例 s，实现对异常值和零膨胀观测的自动识别。
• 通过理论证明，建立后验稳健性，即极端异常值在后部分布中的影响会渐近消失。
• 将RSB模型应用于计数回归、局部自适应平滑和空间泊松回归，以展示其广泛适用性。

实验结果

研究问题

• RQ1 是否能够通过单一贝叶斯模型，无需显式建模污染机制，稳健处理同时具有零膨胀和过度离散的计数数据？
• RQ2 在零膨胀和异常值存在的情况下，如何实现在层次模型中的高效后验计算？
• RQ3 所提出的方法是否表现出理论稳健性，即当异常值变得愈加极端时，后验推断仍保持稳定？
• RQ4 在数据受污染条件下，RSB模型在模型拟合和参数估计方面相较于标准泊松和负二项分布模型的优越程度如何？
• RQ5 该模型是否能自动识别并降低异常值和零膨胀观测的影响，而无需事先知晓其位置？

主要发现

• RSB模型的偏差信息准则（DIC）为8733，显著低于标准泊松模型的DIC值13505，表明模型拟合度显著更优。
• ηi > 10的后验中位数识别出12个位置为高度异常，这些位置未被泊松模型捕捉，导致空间效应估计产生偏差。
• 在RSB模型下，空间带宽参数 h 的后验均值为1.126，而在泊松模型下为0.289，表明由于异常值影响减小，空间效应更加平滑。
• 泊松模型下 β1 的可信区间包含零，而RSB模型下其可信区间远离零，显示出推断上的关键差异。
• 在RSB模型下 β5 的后验均值为负，而在泊松模型下为正，凸显了因对异常值敏感而导致的结论分歧。
• RSB模型中混合比例 s 的追踪图显示收敛，证实了数据中存在零膨胀和异常值。