[论文解读] Perfect Match: A Simple Method for Learning Representations For Counterfactual Inference With Neural Networks

Patrick Schwab, Lorenz Linhardt+1 more|arXiv (Cornell University)|Oct 1, 2018

Advanced Causal Inference Techniques参考文献 39被引用 56

一句话总结

Perfect Match (PM) 通过在小批量中加入倾向评分匹配的邻近样本来训练神经网络，以进行任意治疗数的反事实推断。它在多个基准测试中优于复杂基线，并且是架构无关、无超参数。

ABSTRACT

Learning representations for counterfactual inference from observational data is of high practical relevance for many domains, such as healthcare, public policy and economics. Counterfactual inference enables one to answer "What if...?" questions, such as "What would be the outcome if we gave this patient treatment $t_1$?". However, current methods for training neural networks for counterfactual inference on observational data are either overly complex, limited to settings with only two available treatments, or both. Here, we present Perfect Match (PM), a method for training neural networks for counterfactual inference that is easy to implement, compatible with any architecture, does not add computational complexity or hyperparameters, and extends to any number of treatments. PM is based on the idea of augmenting samples within a minibatch with their propensity-matched nearest neighbours. Our experiments demonstrate that PM outperforms a number of more complex state-of-the-art methods in inferring counterfactual outcomes across several benchmarks, particularly in settings with many treatments.

研究动机与目标

• 促使基于观测数据的反事实推断，以及对鲁棒、可扩展神经方法的需求。
• 将反事实学习扩展到任意数量治疗的场景。
• 提供一个简单的、架构无关的训练机制，在不增加额外超参数的情况下减少治疗指派偏差。

提出的方法

• 引入 Perfect Match (PM)，一种基于平衡分数（倾向评分或协变量）的 minibatch 级匹配策略，用最近邻反事实来增补每个样本。
• 将 TARNET 架构扩展到多治疗，具有共享基础和每个治疗的头部。
• 训练带有 PM 的神经网络，随着数据集规模增大，在无混杂假设下获得潜在结果的一致估计。
• 在反事实标签不可用时，使用 NN-PEHE 作为模型选择代理。
• 将 PM 与一系列基线（kNN、BART、RF、CF、GANITE、BNN、CFRNET、PD）在 IHDP 与 News 数据集上进行比较，包含两种及多种治疗。

实验结果

研究问题

• RQ1 相对于最先进的方法，PM 在二元和多治疗设置下推断反事实结果的表现如何？
• RQ2 基于 NN-PEHE 的模型选择能否优于以 factual MSE 的选择？
• RQ3 每个 minibatch 中匹配样本的比例如何影响反事实学习？
• RQ4 PM 对观测数据中日益增加的治疗指派偏差的鲁棒性如何？
• RQ5 minibatch 匹配是否优于数据集层面的匹配策略？

主要发现

• 在 IHDP 与 News 数据集上，PM 始终优于许多复杂基线，特别是治疗数量增加时。
• 在 minibatches 内对倾向评分或低维表示进行匹配，结合多头 TARNET，带来强劲的反事实预测性能。
• NN-PEHE 与真实 PEHE 的相关性优于 MSE，支持将 NN-PEHE 作为反事实推断的模型选择标准。
• 增加每个 minibatch 的匹配样本比率能改善反事实误差，即使在适度匹配水平时也有好处。
• PM 展现出对比竞争方法更高的治疗指派偏差的鲁棒性。