[论文解读] Kernel Methods for Unobserved Confounding: Negative Controls, Proxies, and Instruments

Rahul Singh|arXiv (Cornell University)|Dec 18, 2020

Advanced Causal Inference Techniques参考文献 59被引用 7

一句话总结

本文提出了一种使用负控制（即与结果或处理无关的辅助变量）的非参数核岭回归框架，以在未观测混杂因素下识别和估计因果效应。该方法能够实现剂量反应曲线、异质处理效应以及分布偏移效应的估计，具有统一一致性和有限样本收敛速率，已在一项调整未观测收入混杂因素的吸烟与婴儿出生体重关系研究中得到验证。

ABSTRACT

Negative control is a strategy for learning the causal relationship between treatment and outcome in the presence of unmeasured confounding. The treatment effect can nonetheless be identified if two auxiliary variables are available: a negative control treatment (which has no effect on the actual outcome), and a negative control outcome (which is not affected by the actual treatment). These auxiliary variables can also be viewed as proxies for a traditional set of control variables, and they bear resemblance to instrumental variables. I propose a family of algorithms based on kernel ridge regression for learning nonparametric treatment effects with negative controls. Examples include dose response curves, dose response curves with distribution shift, and heterogeneous treatment effects. Data may be discrete or continuous, and low, high, or infinite dimensional. I prove uniform consistency and provide finite sample rates of convergence. I estimate the dose response curve of cigarette smoking on infant birth weight adjusting for unobserved confounding due to household income, using a data set of singleton births in the state of Pennsylvania between 1989 and 1991.

研究动机与目标

• 开发一种在存在未观测混杂因素时的通用非参数因果推断框架。
• 统一在未观测混杂因素下对总体水平、亚群体水平以及分布偏移处理效应的估计。
• 为在未观测混杂因素存在下基于核方法的估计器提供有限样本统一一致性的保证。
• 利用负控制作为代理变量，实现对连续和离散处理效应（包括异质处理效应）的估计。
• 在再生核希尔伯特空间（RKHS）的理论支持下，将核方法的应用扩展到非参数工具变量（NPIV）问题。

提出的方法

• 该方法在再生核希尔伯特空间（RKHS）中使用核岭回归来建模处理与结果之间的因果关系。
• 通过引入负控制——具体为负控制处理（Z）和负控制结果（W）——来识别并调整未观测混杂因素（U）。
• 该方法将混淆桥接函数 h₀(d,v,x,w) 建模为 RKHS 中的函数，从而实现处理效应的非参数估计。
• 通过闭式留一法交叉验证和标准启发式方法选择调优参数（岭惩罚和核超参数）。
• 该方法利用核化条件期望估计条件平均处理效应（CATE）、剂量反应曲线以及分布偏移下的效应。
• 理论分析在真实因果函数的光滑性假设下，建立了统一一致性和有限样本收敛速率。

实验结果

研究问题

• RQ1 当存在未观测混杂因素时，负控制能否用于非参数识别和估计处理效应？
• RQ2 核方法如何被调整以在未观测混杂因素下估计异质效应和剂量反应效应？
• RQ3 在此设定下，基于核方法的估计器的有限样本收敛速率和统一一致性特性是什么？
• RQ4 在有限样本中，所提出的方法与忽略未观测混杂因素的标准估计器相比表现如何？
• RQ5 在高维或无限维设定下，负控制在多大程度上可作为未观测混杂因素的代理？

主要发现

• 所提出的核岭回归估计器实现了统一一致性，并且其有限样本收敛速率取决于真实因果函数的光滑性，而非数据维度。
• 在模拟实验中，该方法优于忽略未观测混杂因素的朴素估计器，尤其在小样本中表现更优，均方误差从 n=100 时的 0.07 降低至 n=5000 时的 0.00。
• 该方法成功估计了吸烟对婴儿出生体重的剂量反应曲线，并通过负控制（父母教育水平和家庭规模）调整了未观测收入混杂因素。
• 对于按种族和吸烟状态定义的亚群体，该估计器等价于在匹配感兴趣协变量的数据子集中应用该方法，且在各组中表现一致。
• 理论分析表明，在不适定逆问题中，存在性和完备性条件在 RKHS 设置下得到了良好刻画，为 NPIV 提供了新颖的理论基础。
• 该方法对离散、连续以及高维的处理、协变量和负控制均具有鲁棒性，能够在复杂观察性设定中实现灵活的因果推断。