[论文解读] Observational-Interventional Priors for Dose-Response Learning

Ricardo Silva|arXiv (Cornell University)|May 5, 2016

Gaussian Processes and Bayesian Inference参考文献 19被引用 3

一句话总结

本文提出了一种分层高斯过程先验，结合观测数据与干预数据，以改进非参数剂量-反应曲线估计。通过利用观测数据构建先验，并借助少量干预数据的非参数仿射变换进行精炼，该方法加速了学习过程并提高了准确性，在早产儿治疗数据的合成实验中，平均归一化绝对误差降低了0.06–0.08。

ABSTRACT

Controlled interventions provide the most direct source of information for learning causal effects. In particular, a dose-response curve can be learned by varying the treatment level and observing the corresponding outcomes. However, interventions can be expensive and time-consuming. Observational data, where the treatment is not controlled by a known mechanism, is sometimes available. Under some strong assumptions, observational data allows for the estimation of dose-response curves. Estimating such curves nonparametrically is hard: sample sizes for controlled interventions may be small, while in the observational case a large number of measured confounders may need to be marginalized. In this paper, we introduce a hierarchical Gaussian process prior that constructs a distribution over the dose-response curve by learning from observational data, and reshapes the distribution with a nonparametric affine transform learned from controlled interventions. This function composition from different sources is shown to speed-up learning, which we demonstrate with a thorough sensitivity analysis and an application to modeling the effect of therapy on cognitive skills of premature infants.

研究动机与目标

• 解决在干预数据稀缺且难以获取的情况下学习剂量-反应曲线的挑战。
• 通过结合观测数据与有限的干预数据，改进因果效应的非参数估计。
• 开发一种合理且分层的先验，利用两种数据源的同时保持对模型误设的鲁棒性。
• 在早产儿治疗研究的真实世界数据上展示该方法的性能，其中治疗水平未被随机化。

提出的方法

• 该方法采用分层高斯过程先验，从观测数据中学习剂量-反应曲线的基分布。
• 利用干预数据对先验进行非参数仿射变换以实现精炼，从而在少量干预样本下实现高效优化。
• 变换通过具有平方指数协方差函数的高斯过程学习，确保平滑性与灵活性。
• 该方法使用后门调整来估计干预均值响应，$ f(x) = \mathbb{E}[Y \mid do(X=x)] $，通过对测量的混杂因子 $ \mathbf{Z} $ 进行边际化实现。
• 模型通过联合似然函数进行训练，假设混杂因子 $ \mathbf{Z} $ 满足后门准则。
• 通过敏感性分析以及从早产儿真实研究中生成的合成干预数据对方法进行评估。

实验结果

研究问题

• RQ1 当干预数据有限时，能否有效利用观测数据来改进剂量-反应曲线的估计？
• RQ2 通过分层先验结合观测与干预数据，与单独使用任一数据源相比，其估计精度如何？
• RQ3 当混杂因子未被完全测量或后门准则被违反时，该方法对模型误设的鲁棒性如何？
• RQ4 与仅使用干预数据的标准高斯过程回归相比，该方法在多大程度上降低了估计误差？
• RQ5 在真实世界数据中，该方法在不同协变量分层（如母亲教育水平）下的表现如何？

主要发现

• 当每种治疗水平使用10个干预样本时，该方法在高中、大学和合并母亲教育水平分层中，平均归一化绝对误差分别降低了0.06、0.07和0.08。
• 在82%、89%和91%的运行中，该方法在高中、大学和合并分层中均优于纯干预高斯过程回归。
• 通过敏感性分析，该方法表现出更快的收敛速度和对模型误设的更强鲁棒性。
• 与仅使用干预数据的标准GP回归相比，该方法的后验均值曲线在合成干预数据上拟合得更好。
• 该方法在从真实婴儿发育数据生成的合成数据中有效捕捉了非线性剂量-反应关系，包括母亲教育水平分层间不同的取值范围。
• 即使在未完全考虑混杂因素的情况下，该方法仍保持了强劲性能，表明其在存在未测量反馈效应的情境下具有实际应用价值。