[论文解读] Deep Counterfactual Networks with Propensity-Dropout

Ahmed M. Alaa, Michael Weisz+1 more|arXiv (Cornell University)|Jun 19, 2017

Stochastic Gradient Optimization Techniques参考文献 17被引用 48

一句话总结

本文提出深度反事实网络与倾向得分丢弃（DCN-PD），一种多任务深度学习框架，通过共享层和结果特异性层对事实结果和反事实结果进行建模，并采用基于倾向得分的丢弃方案进行正则化，以减轻观察性数据中的选择偏差。该方法实现了最先进性能，在IHDP数据集上将均方误差（MSE）相比次佳基线降低了21.3%。

ABSTRACT

We propose a novel approach for inferring the individualized causal effects of a treatment (intervention) from observational data. Our approach conceptualizes causal inference as a multitask learning problem; we model a subject's potential outcomes using a deep multitask network with a set of shared layers among the factual and counterfactual outcomes, and a set of outcome-specific layers. The impact of selection bias in the observational data is alleviated via a propensity-dropout regularization scheme, in which the network is thinned for every training example via a dropout probability that depends on the associated propensity score. The network is trained in alternating phases, where in each phase we use the training examples of one of the two potential outcomes (treated and control populations) to update the weights of the shared layers and the respective outcome-specific layers. Experiments conducted on data based on a real-world observational study show that our algorithm outperforms the state-of-the-art.

研究动机与目标

• 通过解决现实世界治疗分配中固有的选择偏差，改进从观察性数据中进行个性化因果效应估计。
• 克服将治疗视为特征的直接建模方法的局限性，这些方法限制了治疗与协变量之间的交互。
• 通过联合学习共享表示和结果特异性表示，以增强建模灵活性和统计效率，用于事实结果和反事实结果。
• 开发一种基于倾向得分自适应调整丢弃率的正则化器，以在选择偏差下提升泛化能力。
• 通过推理阶段的蒙特卡洛倾向得分丢弃，实现对治疗效应估计的不确定性量化。

提出的方法

• 该模型采用深度多任务架构，为事实结果和反事实结果共享层，并为每种结果设置独立的结果特异性层。
• 网络以交替阶段进行训练：首先使用对照组数据更新共享层和对照组特异性层，然后使用治疗组数据更新共享层和治疗组特异性层。
• 提出一种新颖的倾向得分丢弃正则化方案，在训练期间根据个体的倾向得分按比例调整丢弃概率，以减少对偏差数据的过拟合。
• 倾向得分通过一个独立的前馈神经网络估计，并用于动态调整每个训练样本的丢弃率。
• 在推理阶段应用蒙特卡洛丢弃，以估计个性化治疗效应预测的不确定性。
• 所有层均使用Adam优化器和Xavier初始化，训练以周期为单位进行，采用交替小批量更新。

实验结果

研究问题

• RQ1 深度多任务学习框架是否能比将治疗作为特征的直接建模方法更有效地联合建模事实结果和反事实结果？
• RQ2 基于倾向得分的丢弃正则化方案是否能减少选择偏差并提升观察性因果推断中的泛化能力？
• RQ3 所提出的DCN-PD模型在真实世界观察性数据上估计个性化治疗效应方面，与最先进方法相比表现如何？
• RQ4 具有共享层和结果特异性层的多任务架构在多大程度上提升了统计效率和建模灵活性？
• RQ5 蒙特卡洛倾向得分丢弃能否为个性化治疗效应提供可靠的不确定性估计？

主要发现

• DCN-PD在IHDP数据集上实现了最低的均方误差（MSE）2.05 ± 0.03，优于所有基线模型，包括表现次佳的BNN。
• 相比次佳基线（BNN）的性能提升达21.3%，表明所提出的架构和正则化策略带来了显著的性能增益。
• 与标准丢弃率0.2相比，倾向得分丢弃将MSE降低了20.5%，表明其作为选择偏差正则化器的有效性。
• 该模型显著优于标准单输出神经网络（NN-4，MSE为2.88 ± 0.10），凸显了多任务学习相较于直接建模的优势。
• 与使用均匀丢弃的模型相比，该方法在偏差观察性数据上表现出更好的泛化能力，证实了倾向感知正则化的有效性。
• 采用蒙特卡洛倾向得分丢弃使个体治疗效应预测的不确定性量化更加可靠。