[论文解读] Technical Report: Higher Order Influence Functions and Minimax Estimation of Nonlinear Functionals

James M. Robins, Lingling Li+2 more|arXiv (Cornell University)|Jan 7, 2016

Control Systems and Identification参考文献 9被引用 5

一句话总结

本文为半参数与非参数模型中非线性泛函的极小化最大估计发展了高阶影响函数理论，将一阶稳健估计扩展至复杂、高维设置。它提供了泛函乘积的高阶影响函数的显式公式，并将其应用于在单调缺失下估计均值结果和在时变混杂下估计因果效应，实现了具有多重稳健性的最优非根n收敛速率。

ABSTRACT

Robins et al, 2008, published a theory of higher order influence functions for inference in semi- and non-parametric models. This paper is a comprehensive manuscript from which Robins et al, was drawn. The current paper includes many results and proofs that were not included in Robins et al due to space limitation. Particular results contained in the present paper that were not reported in Robins et al include the following. Given a set of functionals and their corresponding higher order influence functions, we show how to derive the higher order influence function of their product. We apply this result to obtain higher order influence functions and associated estimators for the mean of a response Y subject to monotone missingness under missing at random. These results also apply to estimating the causal effect of a time dependent treatment on an outcome Y in the presence of time-varying confounding. Finally, we include an appendix that contains proofs for all theorems that were stated without proof in Robins et al, 2008. The initial part of the paper is closely related to Robins et al, the latter parts differ.

研究动机与目标

• 为非参数和半参数模型中的非线性泛函发展高阶影响函数的全面理论。
• 将一阶稳健估计扩展至高阶U统计量，以实现非根n收敛速率。
• 推导乘积泛函的显式高阶影响函数，以实现对复杂泛函的估计。
• 将该理论应用于在单调缺失和时变混杂下存在缺失数据和因果推断问题。
• 建立扩展双稳健性至高阶影响函数的多重稳健性属性。

提出的方法

• 将高阶影响函数推导为高阶U统计量，推广一阶影响函数。
• 使用张量积基展开（例如，Φk2, Wk1, Zk0）对条件期望进行非参数估计。
• 通过估计的倾向得分π̂应用迭代条件化和加权逆概率方法处理缺失性和混杂性。
• 通过在多个缺失或处理阶段中对影响函数进行递归分解来构建估计量。
• 通过引入偏差校正项（例如，eτ(3)1(θ), eψ(3)j,j(θ)）确保一致性和最优收敛速率。
• 通过确保若多个正则模型中的至少一个被正确指定，估计量仍保持一致，实现多重稳健性。

实验结果

研究问题

• RQ1 如何在非参数模型中为非线性泛函的乘积推导高阶影响函数？
• RQ2 在高维协变量下，对具有单调缺失的响应变量均值估计，其最优收敛速率是什么？
• RQ3 能否构建高阶影响函数以实现在具有时变混杂和缺失数据的模型中的极小化最大估计？
• RQ4 如何将多重稳健性从一阶影响函数扩展至高阶估计量？
• RQ5 在三次单调缺失下，均值结果的影响函数的显式形式是什么？

主要发现

• 本文推导出在三次单调缺失下均值结果的r阶影响函数的显式形式，其表达为加权、迭代条件期望的复杂和。
• 所提出的估计量在高维模型中实现了最优非根n收敛速率，其中由于维度灾难，根n速率不可达。
• 通过递归应用高阶U统计量理论，构建了泛函乘积的影响函数，从而实现对复杂泛函（如加权平均处理效应）的估计。
• 该方法确保了多重稳健性：若至少一个正则模型（如结果回归、倾向得分）被正确指定，估计量仍保持一致。
• 正式建立了估计量的偏差和方差性质，并在三次缺失情况下给出了偏差校正项（如eτ(3)1(θ)）的显式表达式。
• 该框架通过引入高阶得分和巴塔查里亚基，推广了一阶半参数理论，使在复杂高维模型中实现最优推断成为可能。