[论文解读] Default Bayesian analysis for multi-way tables: a data-augmentation approach

Nicholas G. Polson, James G. Scott|arXiv (Cornell University)|Sep 19, 2011

Statistical Methods and Bayesian Inference参考文献 32被引用 10

一句话总结

本文提出一种基于Polya–Gamma分布的数据增强方法，用于在多向列联表中实现高效、精确的贝叶斯推断，避免了数值积分或MCMC方法的使用。该方法通过灵活的先验分布实现正则化估计，包括lasso和bridge惩罚的贝叶斯类比，并基于logistic-Z模型提出一种默认的非信息先验。

ABSTRACT

This paper proposes a strategy for regularized estimation in multi-way contingency tables, which are common in meta-analyses and multi-center clinical trials. Our approach is based on data augmentation, and appeals heavily to a novel class of Polya-Gamma distributions. Our main contributions are to build up the relevant distributional theory and to demonstrate three useful features of this data-augmentation scheme. First, it leads to simple EM and Gibbs-sampling algorithms for posterior inference, circumventing the need for analytic approximations, numerical integration, Metropolis--Hastings, or variational methods. Second, it allows modelers much more flexibility when choosing priors, which have traditionally come from the Dirichlet or logistic-normal family. For example, our approach allows users to incorporate Bayesian analogues of classical penalized-likelihood techniques (e.g. the lasso or bridge) in computing regularized estimates for log-odds ratios. Finally, our data-augmentation scheme naturally suggests a default strategy for prior selection based on the logistic-Z model, which is strongly related to Jeffreys' prior for a binomial proportion. To illustrate the method we focus primarily on the particular case of a meta-analysis/multi-center study (or a JxKxN table). But the general approach encompasses many other common situations, of which we will provide examples.

研究动机与目标

• 开发一种计算高效、精确的多向列联表贝叶斯方法，此类列联表在元分析和多中心临床试验中常见。
• 通过一种新颖的数据增强方案，解决多向列联表中logistic似然的非共轭性和非线性问题。
• 支持灵活的先验设定，包括通过lasso和bridge等经典惩罚似然方法的贝叶斯类比实现正则化。
• 基于logistic-Z模型建立一种默认的、非信息的对数优势比先验，该先验与Jeffreys先验密切相关。
• 通过在多中心临床试验数据集上的应用，展示该方法的实际效用。

提出的方法

• 核心方法基于使用Polya–Gamma分布的潜变量，对logistic似然进行正态混合表示，从而实现共轭更新。
• 每个列联表单元都通过一个独立的Polya–Gamma分布潜变量进行增强，简化后验计算。
• Polya–Gamma分布通过Fisher的Z分布的Lévy表示推导得出，支持精确的矩母函数计算。
• 通过将非共轭的logistic模型转化为条件共轭的高斯模型，该方法支持高效的Gibbs采样和EM算法。
• 该框架可推广至层次模型，支持层次收缩和稀疏列联表中的稳健估计。
• 提出一种基于logistic-Z模型的默认先验，该先验对应于二项比例的Jeffreys类先验。

实验结果

研究问题

• RQ1 能否开发一种数据增强方案，使多向列联表的精确贝叶斯推断无需依赖数值积分或MCMC？
• RQ2 如何通过潜变量表示解决多向列联表中logistic似然的非共轭性问题？
• RQ3 该方法能否支持灵活的正则化先验，如对数优势比的lasso或bridge惩罚的贝叶斯类比？
• RQ4 一种既客观又计算上可行的对数优势比默认先验是什么？它与Jeffreys先验有何关系？
• RQ5 该方法在具有稀疏单元计数的真实多中心临床试验数据上的实际表现如何？

主要发现

• 该数据增强方案通过简单的Gibbs和EM算法实现精确后验计算，避免了Metropolis–Hastings或变分近似方法的使用。
• 该方法允许使用非Dirichlet、非logistic正态先验，包括受惩罚似然方法启发的先验（如lasso和bridge），用于对数优势比的正则化估计。
• Polya–Gamma分布以每个表单元仅一个潜变量的简洁表示，显著降低了计算复杂度。
• 基于logistic-Z模型的默认先验被证明与二项比例的Jeffreys先秦密切相关，支持客观贝叶斯推断。
• 该方法成功对稀疏单元（如对照组中零成功率情况）的估计进行了正则化，提高了多中心研究中估计的稳定性。
• 在多中心临床试验数据集（表1）上的实证应用表明，与最大似然估计相比，该方法实现了更好的收缩效果和更精确的治疗效应估计。