[论文解读] DeepMed: Semiparametric Causal Mediation Analysis with Debiased Deep Learning

Siqi Xu, Lin Liu+1 more|arXiv (Cornell University)|Oct 10, 2022

Bayesian Modeling and Causal Inference被引用 7

一句话总结

DeepMed 提出了一种基于深度学习的半参数因果中介分析方法，利用去偏深度神经网络（DNN）估计自然直接效应和间接效应（NDE/NIE）有效影响函数中的干扰函数。该方法在无需稀疏 DNN 架构的前提下实现了半参数效率，并能适应低维结构，推动了基于 DNN 的因果推断理论与实践的发展。

ABSTRACT

Causal mediation analysis can unpack the black box of causality and is therefore a powerful tool for disentangling causal pathways in biomedical and social sciences, and also for evaluating machine learning fairness. To reduce bias for estimating Natural Direct and Indirect Effects in mediation analysis, we propose a new method called DeepMed that uses deep neural networks (DNNs) to cross-fit the infinite-dimensional nuisance functions in the efficient influence functions. We obtain novel theoretical results that our DeepMed method (1) can achieve semiparametric efficiency bound without imposing sparsity constraints on the DNN architecture and (2) can adapt to certain low dimensional structures of the nuisance functions, significantly advancing the existing literature on DNN-based semiparametric causal inference. Extensive synthetic experiments are conducted to support our findings and also expose the gap between theory and practice. As a proof of concept, we apply DeepMed to analyze two real datasets on machine learning fairness and reach conclusions consistent with previous findings.

研究动机与目标

• 为解决基于 DNN 的因果中介分析在理论保证方面的空白，特别是针对复杂、高维的干扰函数。
• 开发一种方法，在不强制要求 DNN 架构稀疏化的情况下实现半参数效率，这在实践中较为常见。
• 通过设计模拟近乎无限维干扰函数的合成实验，弥合理论与实践之间的差距。
• 提供一个实用、用户友好的 R 包，以支持生物医学和公平性应用中的可复现因果中介分析。

提出的方法

• DeepMed 使用全连接、ReLU 激活的前馈 DNN，结合 V 折交叉拟合来估计干扰函数（倾向得分、结果回归、中介回归）。
• 利用 NDE/NIE 有效影响函数（EIF）的多重稳健性，当至少一个干扰函数被一致估计时，可实现偏差抵消。
• 该方法基于 EIF 构建去偏估计器，确保在弱正则性条件下具有渐近正态性和半参数效率。
• 通过样本分割避免 Donsker 型经验过程假设，提升有限样本性能。
• 该框架被扩展用于总效应估计（作为 NDE/NIE 的特例），并适用于具有混合偏差结构的函数式。
• 提供 R 包以实现可复现的代码实现，支持在公平性和生物医学领域的真实世界应用。

实验结果

研究问题

• RQ1 基于 DNN 的因果中介估计器是否能在不强制要求 DNN 架构稀疏化的情况下实现半参数效率？
• RQ2 当真实函数并非稀疏时，DNN 在估计高维干扰函数方面表现如何？
• RQ3 基于 DNN 的因果推断理论保证是否能在真实、复杂的模拟环境中得到验证？
• RQ4 DeepMed 是否能恢复真实世界公平性应用中的已知结论，例如算法化再犯预测？
• RQ5 该方法在干扰函数中低维结构下的适应能力如何，能否避免维度灾难？

主要发现

• DeepMed 在无需对 DNN 架构施加稀疏性约束的前提下，实现了 NDE/NIE 估计的半参数效率界。
• 该方法能适应干扰函数中的低维结构，显著降低估计误差，缓解维度灾难问题。
• 在近乎无限维干扰函数的合成实验中，理论保证在复杂、高维设置下依然成立。
• 在弱正则性条件下，方法保持渐近正态性并支持有效推断，收敛速率由 DNN 估计误差决定。
• 在真实世界公平性应用中，DeepMed 恢复了与先前研究一致的结论，验证了其实际相关性。
• R 包的实现确保了可复现性，并促进了其在生物医学和公平性研究中的应用。