[论文解读] Robust Causal Inference Under Covariate Shift via Worst-Case Subpopulation Treatment Effects

Sookyo Jeong, Hongseok Namkoong|arXiv (Cornell University)|Jul 1, 2020

Advanced Causal Inference Techniques参考文献 87被引用 4

一句话总结

本文提出了最坏情况处理效应（WTE），作为平均处理效应（ATE）的稳健替代方法，确保在给定大小的所有子群体中保持一致有效的处理效应。通过利用具有Neyman正交性的机器学习估计方法，所提出的半鞅估计量实现了Oracle效率，并在协变量偏移下保持有效推断，即使对干扰参数的估计速率较慢亦然。

ABSTRACT

We propose the worst-case treatment effect (WTE) across all subpopulations of a given size, a conservative notion of topline treatment effect. Compared to the average treatment effect (ATE), whose validity relies on the covariate distribution of collected data, WTE is robust to unanticipated covariate shifts, and positive findings guarantee uniformly valid treatment effects over subpopulations. We develop a semiparametrically efficient estimator for the WTE, leveraging machine learning-based estimates of the heterogeneous treatment effect and propensity score. By virtue of satisfying a key (Neyman) orthogonality property, our estimator enjoys central limit behavior---oracle rates with true nuisance parameters---even when estimates of nuisance parameters converge at slower rates. For both randomized trials and observational studies, we establish a semiparametric efficiency bound, proving that our estimator achieves the optimal asymptotic variance. On real datasets where robustness to covariate shift is of core concern, we illustrate the non-robustness of ATE under even mild distributional shift, and demonstrate that the WTE guards against brittle findings that are invalidated by unanticipated covariate shifts.

研究动机与目标

• 解决真实世界数据中未预期协变量偏移下平均处理效应（ATE）估计的脆弱性问题。
• 开发一种保守的处理效应度量，确保在指定大小的所有子群体中保持一致有效的效应。
• 构建WTE的半鞅估计量，即使干扰参数估计不一致，也能保持渐近正态性和最优方差。
• 建立WTE的半鞅效率界，并证明所提出的估计量在随机试验和观察性研究中均达到该界。
• 通过实证结果表明，ATE在轻微分布偏移下可能变得脆弱，而WTE则保持稳健且可靠。

提出的方法

• 将最坏情况处理效应（WTE）定义为给定大小的所有子群体中最小的处理效应，以确保对分布偏移的稳健性。
• 基于处理效应异质性和倾向得分的机器学习估计，开发WTE的半鞅估计量。
• 在估计方程中施加Neyman正交性条件，以确保渐近正态性，并对干扰参数收敛速率较慢的情况保持稳健。
• 推导出在随机试验和观察性研究中WTE的半鞅效率界，证明估计量达到最优渐近方差。
• 采用两步估计程序：首先通过灵活的机器学习方法估计异质性处理效应和倾向得分，然后求解一个极小化最大值优化问题以识别最坏情况子群体。
• 采用影响函数为基础的估计方法，在弱正则性条件下实现根-n一致性与渐近正态性。

实验结果

研究问题

• RQ1 如何定义一种处理效应度量，使其在未知协变量偏移下对所有子群体均保持有效？
• RQ2 WTE的半鞅估计量是否能在随机试验和观察性研究中均达到半鞅效率界？
• RQ3 当干扰参数（如处理效应或倾向得分）以慢于根-n的速率估计时，所提出的估计量是否仍能保持有效推断？
• RQ4 在真实数据中轻微分布偏移下，WTE与ATE在稳健性方面有何比较？
• RQ5 WTE估计量在模型误设和协变量偏移下稳健性的理论基础是什么？

主要发现

• 所提出的WTE估计量在随机试验和观察性研究中均达到半鞅效率界，证明其在渐近方差方面是最优的。
• 由于Neyman正交性特性，即使干扰参数估计速率慢于根-n，估计量仍表现出中心极限定理行为和根-n一致性。
• 实证结果表明，ATE估计在轻微协变量偏移下可能失效，而WTE在所有子群体中保持稳健且一致有效。
• WTE提供了一种保守但可靠的处理效应估计，可防范在分布偏移下消失的脆弱发现。
• 该方法成功识别了最坏情况子群体效应，为现实世界应用中不确定性下的决策提供了实用工具。
• 理论分析证实，WTE估计量在最小正则性条件下仍能保持有效推断，适用于复杂且高维的场景。