[论文解读] Honest data-adaptive inference for the average treatment effect under model misspecification using penalised bias-reduced double-robust estimation

Vahe Avagyan, Stijn Vansteelandt|arXiv (Cornell University)|Aug 12, 2017

Advanced Causal Inference Techniques参考文献 15被引用 17

一句话总结

本文提出了一种惩罚偏差减少的双鲁棒估计量，用于平均处理效应，即使在模型误设的情况下也能保持推断的统一有效性。通过将正则化整合到偏差减少估计中，该方法确保了当倾向得分或结果回归模型中至少有一个正确设定时，估计量具有渐近正态性并能生成有效的置信区间，从而克服了标准双鲁棒方法在高维或模型误设设定下的局限性。

ABSTRACT

The presence of confounding by high-dimensional variables complicates estimation of the average effect of a point treatment. On the one hand, it necessitates the use of variable selection strategies or more general data-adaptive high-dimensional statistical methods. On the other hand, the use of such techniques tends to result in biased estimators with a non-standard asymptotic behaviour. Double-robust estimators are vital for offering a resolution because they possess a so-called small bias property (Newey et al., 2004). This means that their bias vanishes faster than the bias in the nuisance parameter estimators when the relevant smoothing parameter goes to zero, making their performance less sensitive to smoothing (Chernozhukov et al., 2016). This property has been exploited to achieve valid (uniform) inference of the average causal effect when data-adaptive estimators of the propensity score and conditional outcome mean both converge to their respective truths at sufficiently fast rate (e.g., van der Laan, 2014; Farrell, 2015; Belloni et al., 2016). In this article, we extend this work in order to retain valid (uniform) inference when one of these estimators does not converge to the truth, regardless of which. This is done by generalising prior work for low-dimensional settings by Vermeulen and Vansteelandt (2015) to incorporate regularisation. The proposed penalised bias-reduced double-robust estimation strategy exhibits promising performance in extensive simulation studies and a data analysis, relative to competing proposals.

研究动机与目标

• 解决在混杂变量高维化导致倾向得分和结果回归模型均误设时，平均处理效应有效推断的挑战。
• 通过引入正则化技术扩展双鲁棒估计，以稳定偏差并改善模型误设下的有限样本表现。
• 开发一种方法，确保即使数据自适应估计的干扰参数存在偏差或非正态分布，ATE估计量的置信区间也具有一致的有效性。
• 将先前关于偏差减少双鲁棒估计的研究推广至包含惩罚估计，以确保对模型误设和正则化效应的稳健性。
• 通过模拟和实证数据分析评估所提估计量在高维设定下的表现，并与现有方法进行比较。

提出的方法

• 该方法采用受Fu（1998）启发的惩罚估计方程框架，使用ℓ1-惩罚（如套索）估计倾向得分和结果回归模型中的干扰参数。
• 引入偏差减少步骤，通过修改估计方程以最小化偏差，从而针对双鲁棒估计量的一阶偏差进行优化，同时收缩无关系数。
• 该估计量的构造确保其渐近分布保持正态且在弱正则性条件下具有一致有效性，即使两个工作模型均误设。
• 只要两个干扰模型中至少有一个正确设定，该方法即可保证估计量的一致性和渐近正态性，利用了双鲁棒性质。
• 该方法采用两阶段估计过程：首先，使用惩罚似然或M-估计对干扰参数进行正则化估计；其次，利用这些估计值构建偏差校正的双鲁棒估计量。
• 理论保证在惩罚参数与干扰估计量收敛速率的乘积趋于零的条件下成立，从而确保Wald置信区间的统一有效性。

实验结果

研究问题

• RQ1 当倾向得分和结果回归模型因高维协变量而均误设时，平均处理效应的双鲁棒推断是否仍能保持统一有效性？
• RQ2 如何将正则化技术整合到偏差减少的双鲁棒估计中，以稳定偏差并改善有限样本表现？
• RQ3 所提出的惩罚偏差减少估计量在模型误设下是否仍能保持渐近正态性和有效的置信区间，即使干扰参数估计量存在偏差或非正态分布？
• RQ4 该方法在高维设定下对正则化惩罚选择和模型设定的敏感性在多大程度上降低？
• RQ5 当两个工作模型均错误时，只要至少有一个近似正确，该估计量是否仍能保持统一有效性？

主要发现

• 所提出的惩罚偏差减少双鲁棒估计量即使在倾向得分和结果回归模型均误设的情况下，也能实现平均处理效应的统一有效推断。
• 该估计量在弱于标准双鲁棒方法的条件下仍保持渐近正态性，并可轻松计算Wald置信区间。
• 模拟研究显示，所提方法在覆盖概率和均方误差方面优于竞争估计量，尤其在模型误设下表现更优。
• 实证分析证实了该估计量的稳定性，随着协变量数量增加，标准误仍保持良好控制。
• 该方法对正则化惩罚选择具有鲁棒性，对两个工作模型的轻微误设也表现出有限敏感性。
• 理论结果表明，当惩罚参数与干扰估计量收敛速率的乘积趋于零时，偏差项的收敛可得到保证，从而实现统一有效性。