[论文解读] Minimax rates for heterogeneous causal effect estimation

Edward H. Kennedy, Sivaraman Balakrishnan+2 more|arXiv (Cornell University)|Mar 2, 2022

Advanced Causal Inference Techniques被引用 5

一句话总结

本文在 Hölder-光滑的非参数模型下建立了异质因果效应估计的极小极大速率，提出了一种基于高阶影响函数的局部多项式 R-Learner 估计器。关键贡献在于揭示了一种非标准的拐点现象，以及在非参数回归与函数估计速率之间的非寻常插值，量化了 CATE 作为回归/函数估计的混合型估计量。

ABSTRACT

Estimation of heterogeneous causal effects - i.e., how effects of policies and treatments vary across subjects - is a fundamental task in causal inference. Many methods for estimating conditional average treatment effects (CATEs) have been proposed in recent years, but questions surrounding optimality have remained largely unanswered. In particular, a minimax theory of optimality has yet to be developed, with the minimax rate of convergence and construction of rate-optimal estimators remaining open problems. In this paper we derive the minimax rate for CATE estimation, in a Holder-smooth nonparametric model, and present a new local polynomial estimator, giving high-level conditions under which it is minimax optimal. Our minimax lower bound is derived via a localized version of the method of fuzzy hypotheses, combining lower bound constructions for nonparametric regression and functional estimation. Our proposed estimator can be viewed as a local polynomial R-Learner, based on a localized modification of higher-order influence function methods. The minimax rate we find exhibits several interesting features, including a non-standard elbow phenomenon and an unusual interpolation between nonparametric regression and functional estimation rates. The latter quantifies how the CATE, as an estimand, can be viewed as a regression/functional hybrid.

研究动机与目标

• 在非参数 Hölder-光滑模型中，建立条件平均处理效应（CATE）估计的极小极大收敛速率。
• 在较弱正则性条件下，开发一种理论上最优的估计器，以实现该极小极大速率。
• 刻画极小极大速率如何依赖于干扰函数（回归函数与倾向得分）的光滑性。
• 将 CATE 形式化为一种结合了非参数回归与函数估计特征的混合型估计量。
• 通过局部化的模糊假设方法，建立极小极大下界，结合非参数回归与函数估计的下界构造技术。

提出的方法

• 使用局部化的模糊假设方法版本，结合非参数回归与函数估计的下界技术，推导出极小极大下界。
• 提出一种基于高阶影响函数的新局部多项式 R-Learner 估计器，实现对 CATE 的高效估计。
• 对高阶影响函数方法实施局部化修改，以处理 CATE 估计量的非参数结构。
• 在估计器中使用张量积与 U-统计量项，以捕捉高阶光滑性与偏差校正。
• 通过求逆矩阵 $\widehat{Q}$ 与 $\widehat{\Omega}$ 来估计影响函数分量，确保对干扰估计误差的鲁棒性。
• 应用调优参数 $h$ 与 $k$ 平衡偏差与方差，最优值通过推导以实现极小极大速率。

实验结果

研究问题

• RQ1 在 Hölder-光滑的非参数模型中，估计条件平均处理效应（CATE）的极小极大收敛速率是什么？
• RQ2 极小极大速率如何依赖于回归函数与倾向得分函数的光滑性？
• RQ3 CATE 估计速率是否在非参数回归与函数估计速率之间插值？如果是，在何种条件下发生？
• RQ4 在适当的光滑性与正则性条件下，局部多项式 R-Learner 估计器能否实现极小极大速率？
• RQ5 高阶影响函数在构建 CATE 估计的速率最优估计器中起什么作用？

主要发现

• 极小极大速率表现出一种非标准的拐点现象：当干扰函数足够光滑时，速率与标准非参数回归速率一致；否则，速率更慢。
• 在低光滑性区域，极小极大速率为非参数回归与函数估计速率的混合，量化了 CATE 作为回归/函数估计混合型估计量的性质。
• 在较弱条件下，通过高阶影响函数构建的最优速率局部多项式 R-Learner 估计器，能够达到所推导的极小极大下界。
• 极小极大速率依赖于结果回归函数 $\mu_a(x)$ 与倾向得分 $\pi(x)$ 的光滑性，临界阈值由参数 $M_{\alpha,\beta,\gamma,d}$ 决定。
• 当平均干扰光滑性低于由维度 $d$ 与光滑参数 $\alpha$、$\beta$、$\gamma$ 决定的临界阈值时，速率慢于标准非参数回归速率。
• 理论结果表明，最优调优参数 $h$ 与 $k$ 依赖于未知光滑性，这为未来基于 Lepski 原理等方法的自适应调优研究提供了动机。