[论文解读] Counterfactual Mean Embeddings

Krikamol Muandet, Motonobu Kanagawa+2 more|arXiv (Cornell University)|May 22, 2018

Advanced Causal Inference Techniques参考文献 84被引用 5

一句话总结

本文提出了反事实均值嵌入（CME），一种非参数的希尔伯特空间表示方法，利用再生核希尔伯特空间（RKHS）对反事实结果分布进行建模。通过将潜在结果分布嵌入RKHS，该方法实现了无需参数假设的分布型因果推断，并在无混淆性条件下实现了最优收敛速率，适用于图像和序列等复杂数据。

ABSTRACT

Counterfactual inference has become a ubiquitous tool in online advertisement, recommendation systems, medical diagnosis, and econometrics. Accurate modeling of outcome distributions associated with different interventions -- known as counterfactual distributions -- is crucial for the success of these applications. In this work, we propose to model counterfactual distributions using a novel Hilbert space representation called counterfactual mean embedding (CME). The CME embeds the associated counterfactual distribution into a reproducing kernel Hilbert space (RKHS) endowed with a positive definite kernel, which allows us to perform causal inference over the entire landscape of the counterfactual distribution. Based on this representation, we propose a distributional treatment effect (DTE) that can quantify the causal effect over entire outcome distributions. Our approach is nonparametric as the CME can be estimated under the unconfoundedness assumption from observational data without requiring any parametric assumption about the underlying distributions. We also establish a rate of convergence of the proposed estimator which depends on the smoothness of the conditional mean and the Radon-Nikodym derivative of the underlying marginal distributions. Furthermore, our framework allows for more complex outcomes such as images, sequences, and graphs. Our experimental results on synthetic data and off-policy evaluation tasks demonstrate the advantages of the proposed estimator.

研究动机与目标

• 解决平均处理效应（ATE）估计器无法捕捉结果分布高阶矩变化的局限性。
• 通过建模完整的反事实结果分布而非仅其均值，实现分布型因果推断。
• 构建一种无需对潜在分布做参数假设的非参数反事实推断框架。
• 在无混淆性条件下，建立所提估计器的理论收敛速率，其依赖于条件均值和Radon-Nikodym导数的光滑性。
• 通过RKHS中的核表示方法，将因果推断扩展至图像、序列和图等复杂结果类型。

提出的方法

• 将反事实分布表示为再生核希尔伯特空间（RKHS）中的均值嵌入，从而实现对整个结果分布的非参数建模。
• 通过核技巧定义反事实均值嵌入（CME）为在反事实干预下特征映射的条件期望。
• 在无混淆性假设下，使用RKHS中的正则化逆概率加权方法从观测数据估计CME。
• 提出一种分布型处理效应（DTE）度量，用于量化在整个结果分布上的因果效应，而不仅限于均值。
• 利用谱分解和正则化（Tikhonov型）稳定由RKHS中估计条件期望所引发的逆问题。
• 通过平衡估计误差与近似误差，推导CME估计器的收敛速率，其速率依赖于条件均值和Radon-Nikodym导数的光滑性。

实验结果

研究问题

• RQ1 我们能否在不假设参数形式的前提下，非参数地建模完整的反事实结果分布？
• RQ2 如何利用观测数据估计整个结果分布上的分布型处理效应（DTE）？
• RQ3 在无混淆性条件下，所提CME估计器的理论收敛速率是多少？
• RQ4 该框架能否处理图像、序列和图等复杂结构化结果？
• RQ5 与基于ATE的现有方法相比，CME估计器在捕捉高阶分布偏移方面表现如何？

主要发现

• 所提出的反事实均值嵌入（CME）在再生核希尔伯特空间（RKHS）中提供了反事实结果分布的非参数、基于核的表示。
• CME估计器的收敛速率为 $ O(n^{-b}) $，其中 $ b = 1/(1 + \beta + \max(1 - \alpha, \alpha)) $，其依赖于条件均值和Radon-Nikodym导数的光滑性。
• 该框架支持分布型处理效应（DTE）估计，实现了对整个结果分布的因果推断，而不仅限于其均值。
• 由于RKHS中核嵌入的灵活性，该方法适用于图像、序列和图等复杂数据类型。
• 在合成数据和离策略评估任务上的实验结果表明，CME估计器在捕捉分布偏移方面优于基于ATE的基线方法。
• 理论分析表明，近似误差以 $ O(\varepsilon_n^{\alpha + \beta}) $ 的速率衰减，且通过调节正则化参数 $ \varepsilon_n = n^{-b} $ 实现估计误差与近似误差的平衡。