[论文解读] Causal Effect Inference for Structured Treatments

Jean Kaddour, Yuchen Zhu+3 more|PolyPublie (École Polytechnique de Montréal)|Jun 3, 2021

Advanced Causal Inference Techniques参考文献 60被引用 8

一句话总结

本文提出了广义罗宾逊分解（GRD），用于在图、图像和文本等结构化处理中估计条件平均处理效应（CATE）。通过伪结果目标化方法分离因果信号，并支持任意模型的即插即用学习，在温和假设下实现了准最优收敛速率，在分子和小世界图实验中优于先前方法。

ABSTRACT

We address the estimation of conditional average treatment effects (CATEs) for structured treatments (e.g., graphs, images, texts). Given a weak condition on the effect, we propose the generalized Robinson decomposition, which (i) isolates the causal estimand (reducing regularization bias), (ii) allows one to plug in arbitrary models for learning, and (iii) possesses a quasi-oracle convergence guarantee under mild assumptions. In experiments with small-world and molecular graphs we demonstrate that our approach outperforms prior work in CATE estimation.

研究动机与目标

• 解决现有因果推断方法中对结构化处理（如分子图、图像、文本）的CATE估计研究不足的问题。
• 通过将结果分解为因果与非因果成分，减少CATE估计中的正则化偏差和混淆偏差。
• 开发一个通用框架，使任意监督模型均可用于结构化处理场景下的异质性函数和目标函数学习。
• 建立理论收敛保证，证明估计器在已知异质性函数全信息时，能达到与“理想”估计器相同的误差界。
• 使用新指标在结构化处理上评估该方法，并展示其在经验上优于先前方法。

提出的方法

• 提出广义罗宾逊分解（GRD），将经典罗宾逊分解推广至连续的、结构化的处理嵌入。
• 推导出一种可学习的伪结果目标，通过偏回归去除混淆效应，从而分离出结果信号中的因果成分。
• 采用即插即用学习策略，利用任意监督模型估计异质性函数（如倾向得分、条件均值）和CATE函数。
• 在结构化干预网络（SIN）框架中使用交替梯度下降，联合优化CATE与异质性估计器。
• 采用广义R-learner的一种带惩罚项的基函数回归变体，其中惩罚项增长速度快于收敛速率，以确保类最优性能。
• 在对异质性估计速率施加温和假设的前提下，通过连接可行估计器的经验风险与真实损失，建立准最优收敛保证。

实验结果

研究问题

• RQ1 能否开发一种通用分解方法，用于估计图和图像等结构化处理的CATE，同时最小化正则化偏差？
• RQ2 在结构化处理场景中，如何有效从观测结果中去除混淆效应，以隔离因果信号？
• RQ3 在结构化处理的CATE估计中，任意监督模型在多大程度上可用于估计异质性与目标函数？
• RQ4 当异质性函数从数据中估计时，可行估计器的理论收敛保证为何？
• RQ5 在结构化处理数据的CATE估计精度方面，所提方法与先前方法相比在实证上表现如何？

主要发现

• 所提出的广义罗宾逊分解（GRD）通过偏回归去除混淆关联，成功分离出结果的因果成分，从而降低了CATE估计中的正则化偏差。
• 该方法实现了准最优收敛速率：在异质性估计器收敛速率为$O(n^{-1/4})$的条件下，CATE估计器达到与已知异质性函数的“理想”估计器相同的误差界。
• 在分子图和小世界图的实验中，结构化干预网络（SIN）在CATE估计精度上优于先前的最先进方法。
• 理论分析表明，在温和假设下，可行估计器的损失收敛速率为$\tilde{\mathcal{O}}(n^{-1/(1+p)})$，与理想最小化器的速率一致。
• 由于采用表示学习与结构化处理嵌入方法，该方法在测试时可泛化至未见过的处理。
• 作者引入了针对结构化处理的新评估指标，解决了该领域缺乏标准化基准的问题。