[论文解读] Causal-BALD: Deep Bayesian Active Learning of Outcomes to Infer Treatment-Effects from Observational Data

Andrew Jesson, Panagiotis Tigas+4 more|arXiv (Cornell University)|Nov 3, 2021

Machine Learning and Algorithms参考文献 45被引用 8

一句话总结

Causal-BALD 提出了一种深度贝叶斯主动学习框架，通过优先选择处理组与对照组支持重叠区域来选择用于因果效应估计的样本，从而提高样本效率。它使用基于信息论的采集函数以避免不可识别区域，在合成数据集和半合成数据集（如 IHDP 和 CMNIST）上优于基线方法。

ABSTRACT

Estimating personalized treatment effects from high-dimensional observational data is essential in situations where experimental designs are infeasible, unethical, or expensive. Existing approaches rely on fitting deep models on outcomes observed for treated and control populations. However, when measuring individual outcomes is costly, as is the case of a tumor biopsy, a sample-efficient strategy for acquiring each result is required. Deep Bayesian active learning provides a framework for efficient data acquisition by selecting points with high uncertainty. However, existing methods bias training data acquisition towards regions of non-overlapping support between the treated and control populations. These are not sample-efficient because the treatment effect is not identifiable in such regions. We introduce causal, Bayesian acquisition functions grounded in information theory that bias data acquisition towards regions with overlapping support to maximize sample efficiency for learning personalized treatment effects. We demonstrate the performance of the proposed acquisition strategies on synthetic and semi-synthetic datasets IHDP and CMNIST and their extensions, which aim to simulate common dataset biases and pathologies.

研究动机与目标

• 为解决现有主动学习方法在观察性因果推断中效率低下的问题，这些方法常聚焦于处理效应不可识别的低重叠区域。
• 开发优先考虑高不确定性但处理组与对照组之间存在足够重叠的采集函数，以确保处理效应的可识别性。
• 在结果测量成本较高的情况下，提高深度贝叶斯模型在个性化处理效应估计中的样本效率。
• 通过将采集策略与因果可识别性条件（特别是重叠假设）对齐，减轻主动学习中的数据分布偏差。

提出的方法

• 该方法引入基于信息论的因果贝叶斯采集函数，具体为在条件依赖于重叠支持的前提下，最大化模型参数与结果之间的互信息。
• 采用结合蒙特卡洛 dropout 的深度贝叶斯神经网络进行不确定性估计和预测方差建模。
• 采集函数源自 BALD（基于分歧的贝叶斯主动学习）原则，但经过调整以优先选择处理组与对照组均存在的区域，从而确保可识别性。
• 该框架使用预训练模型估计不确定性，并选择最具信息量的样本进行结果采集，迭代优化处理效应估计。
• 在残差结构中引入谱归一化和批量归一化，以提高训练稳定性和不确定性校准。
• 该方法在合成数据集、IHDP 和 CMNIST 数据集上进行了评估，引入了受控偏差，模拟了现实世界中的数据病理现象，如选择偏差和非重叠支持。

实验结果

研究问题

• RQ1 通过聚焦于处理组与对照组之间的重叠支持区域，能否使处理效应估计的主动学习更具样本效率？
• RQ2 优先考虑重叠性的信息论采集函数与标准 BALD 方法相比，在处理效应估计准确性方面表现如何？
• RQ3 将采集策略偏向重叠区域在多大程度上能降低在处理效应无法估计的不可识别区域获取结果的风险？
• RQ4 在存在选择偏差和协变量分布非重叠等常见数据病理现象时，所提出的 Causal-BALD 方法是否仍能保持性能？
• RQ5 在低数据环境下，该方法与随机采集和基于不确定性的采集策略相比表现如何？

主要发现

• Causal-BALD 通过聚焦于支持重叠区域的采集，显著提高了处理效应估计的样本效率，减少了所需标注结果的数量。
• 在 IHDP 数据集上，Causal-BALD 在处理效应估计中实现了比基线主动学习方法更低的均方误差（MSE），尤其是在低预算设置下。
• 该方法对选择偏差和非重叠等数据病理现象表现出鲁棒性，在标准主动学习失效的区域仍能保持稳定性能。
• 在半合成 CMNIST 实验中，Causal-BALD 在估计准确性和收敛速度方面均优于基于不确定性的采集和随机采集方法。
• 基于因果可识别性的信息论采集函数，使处理效应估计更具可靠性与泛化能力，适用于多样化数据分布。