[论文解读] Semiparametric doubly robust targeted double machine learning: a review

Edward H. Kennedy|arXiv (Cornell University)|Mar 12, 2022

Machine Learning and Algorithms被引用 39

一句话总结

对因果推断中目标函数的高效非参数估计的全面综述，聚焦半参数效率、影响函数，以及使用双重机器学习概念的实用估计量。

ABSTRACT

In this review we cover the basics of efficient nonparametric parameter estimation (also called functional estimation), with a focus on parameters that arise in causal inference problems. We review both efficiency bounds (i.e., what is the best possible performance for estimating a given parameter?) and the analysis of particular estimators (i.e., what is this estimator's error, and does it attain the efficiency bound?) under weak assumptions. We emphasize minimax-style efficiency bounds, worked examples, and practical shortcuts for easing derivations. We gloss over most technical details, in the interest of highlighting important concepts and providing intuition for main ideas.

研究动机与目标

• 在非参数模型中解释因果及相关函数的目标参数估计问题。
• 刻画路径可微函数量的极小极大效率界限与有效影响函数。
• 讨论基于影响函数的估计量的构造及性质，包括DR和targeted方法。
• 提供在高维设定下推导影响函数的实用策略，并将理论与估计量联系起来。

提出的方法

• 给出冯米塞斯展开式和路径可微性，作为效率界限和影响函数的基础。
• 将有效影响函数描述为无参数情形下的Cramer–Rao界的类比，以及其在实现效率界限中的作用。
• 概述两种推导影响函数的策略，包括在离散数据下的Gateaux导数方法和简单导数规则（策略1和策略2）。
• 解释参数子模型，以及它们如何通过切空间和路径可微性扩展到非参数模型并给出下界。
• 讨论影响函数如何指导修正插件估计量并控制剩余偏差项的估计量构造。

实验结果

研究问题

• RQ1 在非参数模型中估计目标函数的效率界限是什么？
• RQ2 如何推导并利用有效影响函数来构建在因果/推断函数上最优的估计量？
• RQ3 在各种函数量（如ATE、密度/熵）中推导影响函数有哪些实用策略，以及这些策略如何指导估计量设计？
• RQ4 在什么条件下基于影响函数的估计量达到非参数效率界？

主要发现

• 有效影响函数为估计光滑函数量时无参数情形下可能的最低方差提供基准。
• 路径可微性和von Mises展开为下界和有效估计量的构造提供基础。
• 提出两种实际推导影响函数的策略，包括离散数据的Gateaux导数和由简单影响函数构建的模块。
• 参数子模型将经典的Cramer–Rao界与非参数模型连接起来，使复杂函数量具备极小极大类型的下界。
• 该框架将效率理论与纠正插件估计量和控制剩余偏差项的具体估计程序联系起来。