[论文解读] Estimating individual treatment effect: generalization bounds and algorithms

Uri Shalit, Fredrik Johansson+1 more|arXiv (Cornell University)|Jun 13, 2016

Advanced Causal Inference Techniques被引用 391

一句话总结

本文在强忽略性假设下推导了单个处理效应(ITE)估计误差的界限，并提出 CFR，一种能够在治疗组与对照组之间实现表示学习平衡以改善 ITE 估计的框架；实验显示其与现有方法相比具有竞争力的性能。

ABSTRACT

There is intense interest in applying machine learning to problems of causal inference in fields such as healthcare, economics and education. In particular, individual-level causal inference has important applications such as precision medicine. We give a new theoretical analysis and family of algorithms for predicting individual treatment effect (ITE) from observational data, under the assumption known as strong ignorability. The algorithms learn a "balanced" representation such that the induced treated and control distributions look similar. We give a novel, simple and intuitive generalization-error bound showing that the expected ITE estimation error of a representation is bounded by a sum of the standard generalization-error of that representation and the distance between the treated and control distributions induced by the representation. We use Integral Probability Metrics to measure distances between distributions, deriving explicit bounds for the Wasserstein and Maximum Mean Discrepancy (MMD) distances. Experiments on real and simulated data show the new algorithms match or outperform the state-of-the-art.

研究动机与目标

• 在强忽略性假设下，推动从观察数据中准确估计 ITEs。
• 推导一个用于 ITE 估计的一般化误差界，分解为事实误差和处理组与对照组之间的分布差异。
• 提出一个表示学习框架，强制治疗组与对照组分布之间的平衡以提高 ITE 估计。
• 开发并评估基于端到端神经网络的 ITE 估计算法，通过基于 IPM 的正则化来优化该界的界限。
• 在半合成和真实数据上展示相对于现有方法的经验性能。

提出的方法

• 定义一个表示 Phi，并在 Phi 上定义一个预测在每种处理下结果的假设 h。
• 推导一个基于 IPM 的界，将 ITE 误差与在 Phi 空间中 p(x|t=0) 与 p(x|t=1) 的分布距离以及事实损失联系起来。
• 使用 Wasserstein 距离或 MMD 作为可计算的 IPM 来量化分布差异。
• 提出 CFR（Counterfactual Regression）：一个端到端神经网络，联学习 Phi 与两个头 h0、h1 以预测对照和处理结果，并具有基于 IPM 的平衡正则化项。
• 给出一个没有分布平衡项的 TARNet 变体。
• 通过带权的经验损失和基于 IPM 的正则化，用随机梯度下降进行训练，以最小化 PEHE（个体异质效应估计的精确度）的上界。

实验结果

研究问题

• RQ1 在强忽略性下从观察数据估计 ITE 时，一般化误差有多大？
• RQ2 学习到的表示能否降低治疗组与对照组之间的分布不匹配以改进 ITE 估计？
• RQ3 基于 IPM 的正则化（Wasserstein 或 MMD）是否相比标准协变量调整模型改进 ITE 估计？
• RQ4 在半合成与真实数据集上，CFR 方法是否优于现有方法（例如 Causal Forests、TMLE、BLR/BART）？
• RQ5 所提出的方法在样内和样外 ITE 估计任务中的表现如何？

主要发现

• 一个界限表明 ITE 估计误差被事实损失的和与治疗组与对照组表示之间的分布距离项之和上界。
• 该界限使用 Integral Probability Metrics (IPMs)，并通过在学习表示上应用 Wasserstein 距离或 MMD 产生实用的正则化。
• 一个神经网络框架 CFR（Counterfactual Regression），具有用于处理和对照的分离头部，通过在表示中保持处理影响来改进 ITE 估计。
• 在半合成 IHDP 和真实 Jobs 数据上的实证结果表明 CFR 及其平衡变体优于若干基线并与最先进方法具竞争力。
• 包含不带平衡正则化的 TARNet 变体以进行比较，以评估分布平衡的影响。
• 该方法超越线性模型，推广到深度表示和非线性假设，同时利用基于 IPM 的距离进行正则化。