[论文解读] Diffusion Causal Models for Counterfactual Estimation

Pedro L. Sánchez, Sotirios A. Tsaftaris|Edinburgh Research Explorer (University of Edinburgh)|Feb 21, 2022

Domain Adaptation and Few-Shot Learning被引用 13

一句话总结

该论文提出 Diff-SCM，一种基于扩散的结构因果模型，通过在反向扩散过程中利用反因果预测器的梯度，实现在高维图像数据中的反事实估计。在 MNIST 和 ImageNet 上，其生成的反事实比基线方法更真实且更小改动，经由一种新型指标——反事实潜在差异（CLD）验证。

ABSTRACT

We consider the task of counterfactual estimation from observational imaging data given a known causal structure. In particular, quantifying the causal effect of interventions for high-dimensional data with neural networks remains an open challenge. Herein we propose Diff-SCM, a deep structural causal model that builds on recent advances of generative energy-based models. In our setting, inference is performed by iteratively sampling gradients of the marginal and conditional distributions entailed by the causal model. Counterfactual estimation is achieved by firstly inferring latent variables with deterministic forward diffusion, then intervening on a reverse diffusion process using the gradients of an anti-causal predictor w.r.t the input. Furthermore, we propose a metric for evaluating the generated counterfactuals. We find that Diff-SCM produces more realistic and minimal counterfactuals than baselines on MNIST data and can also be applied to ImageNet data. Code is available https://github.com/vios-s/Diff-SCM.

研究动机与目标

• 解决使用深度神经网络在高维图像数据中进行反事实估计的挑战。
• 开发一种因果推断框架，将生成式扩散模型与结构因果模型（SCMs）结合，用于干预估计。
• 通过在反向扩散过程中利用反因果预测器的梯度，实现最小且真实的反事实生成。
• 提出一种新型评估指标——反事实潜在差异（CLD），用于评估生成反事实的最小性与质量。
• 通过定量与定性评估，在 MNIST 与 ImageNet 上展示该方法的有效性。

提出的方法

• 使用确定性前向扩散过程从观测数据推断潜在变量，实现对潜在空间的操控。
• 通过利用反因果预测器相对于输入图像的梯度，在反向扩散过程中实施干预。
• 采用去噪扩散模型（DDPMs）学习反向过程，其中神经网络近似数据分布的对数似然梯度。
• 整合训练有素的反因果预测器，用于从图像预测结果（如类别标签），其梯度用于指导对因果变量的干预。
• 采用马尔可夫链蒙特卡洛（MCMC）采样，通过引入干预梯度，迭代遍历扩散过程以生成反事实。
• 提出一种新型评估指标 CLD（反事实潜在差异），用于度量反事实样本与事实样本在潜在空间中的距离，相对于自然数据变化的相对程度。

实验结果

研究问题

• RQ1 扩散模型能否与结构因果模型有效结合，以在高维图像数据中生成真实反事实？
• RQ2 如何利用反因果预测器的梯度，在反向扩散过程中引导干预，以实现准确的反事实生成？
• RQ3 与现有基线相比，新型指标 CLD 是否能有效评估反事实的最小性与质量？
• RQ4 哪些超参数设置（如尺度参数 s）能优化反事实质量？CLD 如何用于超参数调优？
• RQ5 所提出的 Diff-SCM 框架是否在 MNIST 与 ImageNet 上的定量指标与定性真实感方面均优于最先进方法？

主要发现

• 在 MNIST 上，Diff-SCM 生成的反事实比基线方法更真实且更小改动，经由所提出的 CLD 指标验证。
• 通过基于 CLD 的超参数搜索，确定干预强度的最佳尺度超参数 s 为 0.7，该值在最小性与类别变化之间达到最佳平衡。
• CLD 指标成功识别出性能最佳的模型配置，在多项评估标准上均优于基线方法。
• 该方法可泛化至 ImageNet 256x256 数据，生成反映有意义类别转换的合理反事实。
• 利用反因果预测器梯度可实现有效干预，即使存在混淆因子，也无需显式图破坏。
• 该框架在反事实生成方面达到最先进性能，定性结果表明图像变换具有一致性与语义意义。