[论文解读] Using Embeddings to Correct for Unobserved Confounding in Networks

Victor Veitch, Zhaoran Wang+1 more|arXiv (Cornell University)|Feb 11, 2019

Advanced Causal Inference Techniques参考文献 48被引用 21

一句话总结

该论文提出了一种新颖的方法，用于在存在未观测混杂因素的网络中进行因果推断，通过利用网络嵌入作为潜在混杂因素的代理。该方法将处理和结果预测建模为半监督学习问题，使用嵌入技术，在弱条件下实现有效的因果估计，并在半合成实验中优于基线方法，尤其是在混杂因素部分为外生的情况下。

ABSTRACT

We consider causal inference in the presence of unobserved confounding. We study the case where a proxy is available for the unobserved confounding in the form of a network connecting the units. For example, the link structure of a social network carries information about its members. We show how to effectively use the proxy to do causal inference. The main idea is to reduce the causal estimation problem to a semi-supervised prediction of both the treatments and outcomes. Networks admit high-quality embedding models that can be used for this semi-supervised prediction. We show that the method yields valid inferences under suitable (weak) conditions on the quality of the predictive model. We validate the method with experiments on a semi-synthetic social network dataset. Code is available at github.com/vveitch/causal-network-embeddings.

研究动机与目标

• 解决在缺乏良好指定生成模型的情况下，网络中未观测混杂因素同时影响处理和结果的因果推断问题。
• 开发一种避免强参数假设的方法，通过使用网络嵌入作为潜在混杂因素的代理。
• 将因果估计问题简化为使用嵌入的半监督预测任务，从而在不完全掌握真实混杂因素分布的情况下实现稳健推断。
• 在半合成社交网络数据集上对方法进行实证验证，展示其在估计平均处理效应方面更高的准确性。

提出的方法

• 该方法将因果推断建模为半监督预测问题，通过从网络结构中提取的节点嵌入联合预测处理和结果。
• 采用基于深度学习的网络嵌入模型（如 node2vec、DeepWalk）生成捕捉结构和关系信息的低维表示。
• 将嵌入用作处理和结果预测模型中的特征，最终通过双重稳健估计器（如 TMLE 或逆概率加权）估计因果效应。
• 该方法假设嵌入模型能够有效预测处理和结果中与混杂因素相关的成分，即使该模型并非生成式模型。
• 通过证明嵌入模型预测性能在弱条件下的鲁棒性，将该方法扩展至处理非独立同分布的网络数据。
• 提出一种单阶段流程，将嵌入训练与结果和处理预测头端到端联合进行，避免依赖两阶段估计或参数模型。

实验结果

研究问题

• RQ1 当缺乏生成模型时，网络嵌入能否作为未观测混杂因素在因果推断中的有效代理？
• RQ2 在存在未观测混杂因素的情况下，使用嵌入同时预测处理和结果是否能提升因果效应估计的准确性，相比标准方法？
• RQ3 当混杂因素包含网络结构未捕捉的外生成分时，该方法的鲁棒性如何？
• RQ4 在半合成网络数据中，所提出的单阶段嵌入方法相对于两阶段或参数基线方法的性能如何？
• RQ5 在何种条件下该方法能实现有效的因果推断？其在有限样本中与双重稳健估计器的比较结果如何？

主要发现

• 在所有模拟设置中，所提出的基于嵌入的方法显著优于未调整、参数化和两阶段基线方法，在平均处理效应（ATE）估计方面表现更优。
• 在低混杂和高混杂情景下，单阶段嵌入估计器（$\hat{\psi}^{\mathrm{A}}_{n}$）分别得到 ATE 估计值为 1.24 ± 0.04 和 3.40 ± 0.04（低），以及 1.09 ± 0.02 和 2.03 ± 0.07（高），优于所有基线方法。
• 当混杂因素包含外生成分（p > 0）时，仅基于结果的条件估计器表现最佳，表明当混杂因素并非完全由网络结构决定时，基于嵌入的代理方法存在局限性。
• 当不存在外生混杂因素（p = 0）时，鲁棒的 TMLE 估计器表现最佳，验证了在模型假设下理论上的鲁棒性。
• 即使网络无法完全捕捉所有混杂因素，该方法依然有效，表明其在存在部分混杂可观测性的现实场景中具有实际应用价值。
• 实证结果表明，网络调整始终能改善估计效果，基于嵌入的方法在均方误差方面优于参数化和两阶段方法。