[论文解读] Semiparametric Bayesian causal inference using Gaussian process priors

Kolyan Ray, Aad van der Vaart|arXiv (Cornell University)|Aug 13, 2018

Advanced Causal Inference Techniques被引用 4

一句话总结

本文提出了一种用于二值结果因果推断的半参数贝叶斯方法，使用高斯过程先验非参数化建模倾向得分，并在光滑性条件下实现高效估计。该方法引入了一种新颖的倾向得分相关先验，确保在更弱的正则性假设下实现高效估计，并证明了使用狄利克雷过程或贝叶斯自助法先验建模协变量分布，相较于高斯过程，在理论上更具优势。

ABSTRACT

We develop a semiparametric Bayesian approach for estimating the mean response in a missing data model with binary outcomes and a nonparametrically modelled propensity score. Equivalently we estimate the causal effect of a treatment, correcting nonparametrically for confounding. We show that standard Gaussian process priors satisfy a semiparametric Bernstein-von Mises theorem under smoothness conditions. We further propose a novel propensity score-dependent prior that provides efficient inference under strictly weaker conditions. We also show that it is theoretically preferable to model the covariate distribution with a Dirichlet process or Bayesian bootstrap, rather than modelling the covariate density using a Gaussian process prior.

研究动机与目标

• 开发一种半参数贝叶斯框架，用于在协变量得分非参数化建模的二值结果模型中估计因果效应。
• 建立标准高斯过程先验满足半参数伯恩斯坦-冯米塞斯定理的条件。
• 提出一种新的倾向得分相关先验，使其在比现有方法更弱的光滑性条件下实现高效推断。
• 比较使用狄利克雷过程或贝叶斯自助法先验与高斯过程先验建模协变量分布的理论性能。

提出的方法

• 该方法采用高斯过程先验，在二值结果的缺失数据模型中非参数化估计倾向得分。
• 通过在真实倾向得分具有光滑性条件下的半参数伯恩斯坦-冯米塞斯定理，建立其渐近频率学有效性。
• 构建了一种新颖的倾向得分相关先验，以自适应于倾向得分的潜在光滑性，从而在更弱的正则性假设下提升效率。
• 该方法采用狄利克雷过程或贝叶斯自助法建模协变量分布，而非高斯过程，以避免后验集中度的偏差。

实验结果

研究问题

• RQ1 在何种条件下，标准高斯过程先验可在具有缺失数据的二值结果模型中实现有效的半参数后验推断？
• RQ2 能否构建一种倾向得分相关先验，使其在比标准先验要求更弱的光滑性条件下实现高效估计？
• RQ3 对协变量分布选择何种先验会影响后验集中度与估计效率？
• RQ4 当对倾向得分使用高斯过程先验时，响应均值的后验分布是否渐近正态且高效？

主要发现

• 在光滑性条件下，标准高斯过程先验满足半参数伯恩斯坦-冯米塞斯定理，确保后验均值的渐近正态性与效率。
• 所提出的倾向得分相关先验在比标准先验更弱的光滑性条件下实现了高效推断，提升了稳健性。
• 使用狄利克雷过程或贝叶斯自助法建模协变量分布，理论上优于使用高斯过程先验，因其可避免后验集中度的偏差。
• 理论结果支持对倾向得分与协变量分布使用非参数先验，且后者更适用于非正态或重尾的协变量结构。