[论文解读] Optimal doubly robust estimation of heterogeneous causal effects

Edward H. Kennedy|arXiv (Cornell University)|Apr 29, 2020

Advanced Causal Inference Techniques参考文献 9被引用 71

一句话总结

本文提出了一种用于异质因果效应的两阶段双重稳健估计量，利用对缺失结果进行插补的回归的一般Oracle不等式，实现在光滑性或稀疏性条件下的最优误差率。该文建立了比以往工作更弱的Oracle效率条件，并通过具有特殊样本分割的局部多项式双重残差回归，在非Oracle情形下推导出极小化最优误差界。

ABSTRACT

Heterogeneous effect estimation plays a crucial role in causal inference, with applications across medicine and social science. Many methods for estimating conditional average treatment effects (CATEs) have been proposed in recent years, but there are important theoretical gaps in understanding if and when such methods are optimal. This is especially true when the CATE has nontrivial structure (e.g., smoothness or sparsity). Our work contributes in several main ways. First, we study a two-stage doubly robust CATE estimator and give a generic model-free error bound, which, despite its generality, yields sharper results than those in the current literature. We apply the bound to derive error rates in nonparametric models with smoothness or sparsity, and give sufficient conditions for oracle efficiency. Underlying our error bound is a general oracle inequality for regression with estimated or imputed outcomes, which is of independent interest; this is the second main contribution. The third contribution is aimed at understanding the fundamental statistical limits of CATE estimation. To that end, we propose and study a local polynomial adaptation of double-residual regression. We show that this estimator can be oracle efficient under even weaker conditions, if used with a specialized form of sample splitting and careful choices of tuning parameters. These are the weakest conditions currently found in the literature, and we conjecture that they are minimal in a minimax sense. We go on to give error bounds in the non-trivial regime where oracle rates cannot be achieved. Some finite-sample properties are explored with simulations.

研究动机与目标

• 为填补理论空白，理解在何种条件下条件平均处理效应（CATE）估计量是最优的，特别是当存在光滑性或稀疏性等结构性约束时。
• 为一种两阶段双重稳健CATE估计量开发一个通用的无模型误差界，其结果比现有文献更精确。
• 在最小假设下，建立非参数CATE估计中Oracle效率的充分条件。
• 通过提出双重残差回归的局部多项式自适应方法，探究CATE估计的根本统计极限。
• 在无法达到Oracle率的区域推导误差界，通过精细调参和样本分割实现。

提出的方法

• 提出一种两阶段双重稳健CATE估计量，结合结果回归与倾向得分估计，并提供无模型误差界。
• 推导出一种针对估计或插补结果的回归的一般Oracle不等式，该不等式支撑主要误差界，且具有独立的理论价值。
• 引入双重残差回归的局部多项式自适应方法，以在更弱的正则性条件下提升估计效率。
• 采用一种特殊的样本分割形式，以减少双重残差框架中的偏差并改善有限样本性能。
• 通过精细选择调参，实现在非Oracle情形下的最优收敛速率。
• 将该框架应用于在光滑性与稀疏性假设下推导误差率，证明在充分条件下收敛至Oracle速率。

实验结果

研究问题

• RQ1 在何种条件下，两阶段双重稳健CATE估计量在收敛速率上是最优的？
• RQ2 能否推导出一种针对插补结果回归的一般Oracle不等式，并将其应用于改进CATE估计中的误差界？
• RQ3 CATE估计量在何种最弱正则性条件下可实现Oracle效率？
• RQ4 与现有方法相比，局部多项式双重残差回归在收敛速率和鲁棒性方面表现如何？
• RQ5 当无法实现Oracle效率时，可达到何种误差率？这些误差率是否为极小化最优？

主要发现

• 在相同假设下，所提出的两阶段双重稳健估计量由于采用一般无模型误差界，其误差界比现有方法更优。
• 针对插补结果回归的一般Oracle不等式提供了一个基础性工具，可广泛应用于CATE估计之外的领域。
• 在使用局部多项式双重残差回归与特殊样本分割时，Oracle效率可在比以往更弱的条件下实现。
• 实现Oracle效率所需的条件在极小化意义下被推测为最弱，代表了当前文献中的最弱假设。
• 在非Oracle情形下，该方法在光滑性或稀疏性结构下实现的误差界为极小化最优，仅相差对数因子。
• 模拟结果表明其在有限样本下表现良好，验证了理论发现的实用性。