[论文解读] Nonparametric estimation of causal heterogeneity under high-dimensional confounding

Michael Zimmert, Michael Lechner|arXiv (Cornell University)|Aug 23, 2019

Advanced Causal Inference Techniques参考文献 33被引用 26

一句话总结

该论文提出了一种基于机器学习的两步估计量，用于在高维混杂因素条件下对非参数组平均处理效应（GATEs）进行估计，将混杂因素调整与效应异质性估计分离。该方法建立了相合性、渐近正态性以及速率双重稳健性，最终的ATE估计量通过平均GATEs实现了半参数效率。

ABSTRACT

This paper considers the practically important case of nonparametrically estimating heterogeneous average treatment effects that vary with a limited number of discrete and continuous covariates in a selection-on-observables framework where the number of possible confounders is very large. We propose a two-step estimator for which the first step is estimated by machine learning. We show that this estimator has desirable statistical properties like consistency, asymptotic normality and rate double robustness. In particular, we derive the coupled convergence conditions between the nonparametric and the machine learning steps. We also show that estimating population average treatment effects by averaging the estimated heterogeneous effects is semi-parametrically efficient. The new estimator is an empirical example of the effects of mothers' smoking during pregnancy on the resulting birth weight.

研究动机与目标

• 解决当潜在混杂因素数量极大时估计因果效应异质性的挑战。
• 通过将混杂因素调整与效应异质性估计解耦，克服传统非参数回归在高维协变量空间中的局限性。
• 开发一种灵活的非参数方法，基于少量感兴趣的实质性协变量估计GATEs，同时通过机器学习处理高维混杂因素。
• 通过推导机器学习与非参数估计步骤之间的耦合收敛条件，确保统计效率与稳健性。
• 证明通过平均估计的GATEs可得到半参数有效的ATE估计量，在有限样本中优于标准IPW和AIPW方法。

提出的方法

• 采用两步程序：首先使用机器学习方法（如Lasso、Ridge、Elastic Net、随机森林）估计倾向得分和结果回归，以调整高维混杂因素。
• 在第二步中，使用核平滑或类似的非参数回归方法，对低维的实质性感兴趣协变量（离散和连续）进行非参数GATE估计。
• 推导耦合收敛条件，确保机器学习与非参数估计步骤联合达到最优收敛速率。
• 通过平均估计的GATEs构建三步ATE估计量，证明在正则条件下其为半参数有效。
• 使用集成学习（如Lasso、Ridge、Elastic Net、随机森林的加权组合）以改进干扰参数估计并降低均方误差。
• 将增广逆概率加权（AIPW）和逆概率加权（IPW）作为基准，比较其在有限样本中的表现。

实验结果

研究问题

• RQ1 当混杂因素数量极大时，基于机器学习的两步估计量能否实现GATE估计的一致性和渐近正态性？
• RQ2 机器学习阶段与非参数GATE估计阶段之间需满足何种耦合收敛条件，才能确保最优速率性质？
• RQ3 在高维混杂因素条件下，平均估计的GATEs是否能产生半参数有效的ATE估计量？
• RQ4 在偏差、标准误和有限样本表现方面，所提方法与标准IPW和AIPW估计器相比如何？
• RQ5 该框架能否扩展至其他场景，如工具变量、差分中差分或连续处理？

主要发现

• 所提出的两步估计量在机器学习与非参数估计步骤之间的耦合收敛条件下，实现了相合性、渐近正态性以及速率双重稳健性。
• 通过平均估计的GATEs得到的ATE估计量被证明是半参数有效的，达到了半参数效率界限。
• 在母亲吸烟与出生体重的实证分析中，基于AIPW的集成估计量得到点估计为-234.826，标准误为27.257，优于参数化和基于IPW的替代方法。
• 基于IPW的估计量产生了过大的标准误（45.110）和精度较低的估计，表明在高维混杂因素下表现欠佳。
• 参数化AIPW估计量的点估计为-242.990，标准误较小（25.885），但基于集成的AIPW估计量更具稳健性和效率。
• 平滑化的三步估计量虽在渐近意义上等价于直接平均高效得分，但因其对倾向得分权重的依赖性降低，可能在有限样本中表现更优。