[论文解读] Quasi-Oracle Estimation of Heterogeneous Treatment Effects

Xinkun Nie, Stefan Wager|arXiv (Cornell University)|Dec 13, 2017

Advanced Causal Inference Techniques参考文献 42被引用 94

一句话总结

引入 R-learner，它是一种用于观测研究中估计条件平均处理效应（CATE）的两步、跨拟合框架，当无关成分以 o(n^{-1/4}) 速率估计时，具有准 oracle 误差界。它在损失最小化方法上具有灵活性，并为无关鲁棒估计提供理论保证。

ABSTRACT

Flexible estimation of heterogeneous treatment effects lies at the heart of many statistical challenges, such as personalized medicine and optimal resource allocation. In this paper, we develop a general class of two-step algorithms for heterogeneous treatment effect estimation in observational studies. We first estimate marginal effects and treatment propensities in order to form an objective function that isolates the causal component of the signal. Then, we optimize this data-adaptive objective function. Our approach has several advantages over existing methods. From a practical perspective, our method is flexible and easy to use: In both steps, we can use any loss-minimization method, e.g., penalized regression, deep neural networks, or boosting; moreover, these methods can be fine-tuned by cross validation. Meanwhile, in the case of penalized kernel regression, we show that our method has a quasi-oracle property: Even if the pilot estimates for marginal effects and treatment propensities are not particularly accurate, we achieve the same error bounds as an oracle who has a priori knowledge of these two nuisance components. We implement variants of our approach based on penalized regression, kernel ridge regression, and boosting in a variety of simulation setups, and find promising performance relative to existing baselines.

研究动机与目标

• 激励在观测数据中对异质化处理效应进行灵活、鲁棒估计的需求。
• 提出一种两步 R-learner，通过对结果和处理进行残差化来分离因果信号。
• 表明该方法允许任意损失最小化技术（例如惩罚回归、核方法、提升法）以及用于调参的交叉验证。
• 提供理论保证：CATE 估计量的准 oracle 误差界，取决于 CATE 的复杂性而非无关成分。

提出的方法

• 在潜在结果框架中制定 CATE 估计，将 Y 分解为 Y = m*(X) + (W - e*(X)) * tau*(X) + error，从而实现类似 Robinson 的变换。
• 定义 R-loss L_n(tau) = (1/n) ∑_i [ (Y_i - m_hat^{(-q(i))}(X_i)) - (W_i - e_hat^{(-q(i))}(X_i)) * tau(X_i) ]^2 加上一个正则项 Lambda_n(tau)。
• 在步骤1中使用交叉拟合估计无关成分 m*(X) 和 e*(X)，然后在步骤2最小化 plug-in 的 R-loss 以得到 hat_tau(·)。
• 提供实际优势：将无关成分估计与 tau 估计分离，兼容现成的 ML 工具（glmnet、XGBoost、TensorFlow），并进行交叉验证调参。
• 探索包括惩罚回归、RKHS 中的核岭回归和提升法等变体；讨论在 R-learner 框架内的模型平均与堆叠。

实验结果

研究问题

• RQ1 如何在观测研究中估计异质性处理效应，同时减轻来自无关成分的混淆？
• RQ2 两步残差化损失函数是否可以实现对通用机器学习工具的灵活使用，以在估计 CATE 时获得理论保证？
• RQ3 m*(·) 和 e*(·) 的无关估计误差是否会影响 CATE 估计量的收敛速度，在何种条件下可以实现准 oracle 速率？
• RQ4 在 R-learner 框架下，惩罚回归、核方法和提升在仿真和现实数据设计中的实际性能提升是什么？

主要发现

• 在仿真中，R-learner 相对于基线方法（lasso、BART、causal forests）表现竞争力甚至优越，取决于数据生成设置。
• 使用惩罚核回归时，tau*(·) 的估计量获得的误差界在渐近上与 oracle 方法匹配，速率取决于 tau*(·) 的复杂度，而非 m*(·) 或 e*(·)。
• 交叉拟合实现无关估计的稳定，并允许灵活的 ML 方法在最小化 R-loss 时，而无需对内部混淆控制进行审计。
• 将无关估计与 tau 估计分离两步，增强对错误指定的鲁棒性，并便于对 R-loss 进行调参的交叉验证。
• 在 R-learner 框架内进行模型平均/堆叠，可以结合多个 tau 估计量以提升性能，尤在噪声水平变化时。