[论文解读] Transfer Learning for Estimating Causal Effects using Neural Networks

Sören R. Künzel, Bradly C. Stadie+4 more|arXiv (Cornell University)|Aug 23, 2018

Advanced Causal Inference Techniques被引用 6

一句话总结

本文提出了一种基于深度神经网络的迁移学习技术，用于估计异质性处理效应，引入了如 Y-learner 和 MLRW Transfer（SF Reptile 适应）等新方法，以提升因果效应估计的性能。实验表明，这些方法在使用远少于现有基准的数据下，实现了高达一个数量级的准确率提升，达到当前最优水平，其有效性在真实选民投票率实验和基于 MNIST 的模拟中得到验证。

ABSTRACT

We develop new algorithms for estimating heterogeneous treatment effects, combining recent developments in transfer learning for neural networks with insights from the causal inference literature. By taking advantage of transfer learning, we are able to efficiently use different data sources that are related to the same underlying causal mechanisms. We compare our algorithms with those in the extant literature using extensive simulation studies based on large-scale voter persuasion experiments and the MNIST database. Our methods can perform an order of magnitude better than existing benchmarks while using a fraction of the data.

研究动机与目标

• 解决在数据有限和高维协变量条件下估计异质性处理效应的挑战。
• 利用相关但无法直接合并的辅助数据集，通过迁移学习提升 CATE 估计性能。
• 开发基于深度学习的方法，即使仅观测到每个单元的一个潜在结果，也能高效地在处理组和对照组结果之间共享信息。
• 提供一种在因果推断中实现迁移学习的框架，其在模拟和真实世界应用中均优于现有基准。
• 公开开源代码，以提升可复现性，并推动因果机器学习领域的广泛应用。

提出的方法

• 提出 Y-learner，一种专为深度神经网络设计的 CATE 估计器，通过共享表征联合建模处理组和对照组结果。
• 将 Reptile 元学习算法适配至 CATE 估计，提出 SF Reptile（慢-快 Reptile）的改进版本，实现对存在缺失潜在结果的任务间有效迁移学习。
• 引入多种迁移学习策略：热启动、特征冻结、多头结构和联合训练，以提升模型泛化能力和收敛速度。
• 使用元学习回归权重（MLRW）初始化模型，利用相关任务的知识，加速训练并提升性能。
• 在神经网络中采用双头架构，同时估计处理和对照条件下的结果，实现端到端优化。
• 将方法应用于真实世界田野实验（17 场美国中期选举中的 196 万名选民）和基于 MNIST 图像数据的合成 RCT。

实验结果

研究问题

• RQ1 迁移学习能否在高维设置下提升 CATE 估计的准确率和数据效率？
• RQ2 元学习如何适应因果推断中缺失潜在结果的根本挑战？
• RQ3 在深度神经网络的 CATE 估计中，哪些迁移学习策略（如热启动、多头结构、联合训练）最为有效？
• RQ4 迁移学习能否使 CATE 估计实现 SOTA 性能，且所需训练样本远少于现有方法？
• RQ5 所提出方法在真实世界和模拟因果推断问题中与基准方法相比表现如何？

主要发现

• MLRW Transfer 方法在所有基准中均达到最低的均方误差（MSE），在 MNIST 模拟中平均优于次佳方法 1.15 倍。
• 在大规模选民投票率实验（196 万名个体）中，MLRW 方法相比最佳基线将 MSE 降低超过 50%，在 17 项实验中的一项中实现 2.75 倍的性能提升。
• Y-learner 和基于 SF Reptile 的方法达到 SOTA 表现，MLRW 在真实和模拟数据中始终优于所有其他方法。
• 所提方法仅需现有基准所需数据的一小部分，即可实现相当或更优的性能，展现出极高的数据效率。
• SF Reptile 的适应版本相比标准 Reptile 实现了更快的收敛速度和更好的泛化能力，尤其在低数据场景下表现更优。
• 在基于 MNIST 的模拟中，MLRW 的平均 MSE 达到 0.35*，显著低于次佳方法（1.18），表明其估计精度更优。