[논문 리뷰] Diffusion Causal Models for Counterfactual Estimation

Pedro L. Sánchez, Sotirios A. Tsaftaris|Edinburgh Research Explorer (University of Edinburgh)|2022. 02. 21.

Domain Adaptation and Few-Shot Learning인용 수 13

한 줄 요약

이 논문은 역인과 예측기의 기울기를 역확산 과정 중에 활용하여 고차원 영상 데이터에서 반성적 추론을 가능하게 하는 확산 기반 구조적 인과 모델인 Diff-SCM을 제안한다. MNIST와 ImageNet에서 기준선 대비 더 현실적이고 최소화된 반성적 결과를 도출하며, 반성적 잠재 분산(Counterfactual Latent Divergence, CLD)이라는 새로운 평가 지표를 통해 검증된다.

ABSTRACT

We consider the task of counterfactual estimation from observational imaging data given a known causal structure. In particular, quantifying the causal effect of interventions for high-dimensional data with neural networks remains an open challenge. Herein we propose Diff-SCM, a deep structural causal model that builds on recent advances of generative energy-based models. In our setting, inference is performed by iteratively sampling gradients of the marginal and conditional distributions entailed by the causal model. Counterfactual estimation is achieved by firstly inferring latent variables with deterministic forward diffusion, then intervening on a reverse diffusion process using the gradients of an anti-causal predictor w.r.t the input. Furthermore, we propose a metric for evaluating the generated counterfactuals. We find that Diff-SCM produces more realistic and minimal counterfactuals than baselines on MNIST data and can also be applied to ImageNet data. Code is available https://github.com/vios-s/Diff-SCM.

연구 동기 및 목표

• 딥 네ural 네트워크를 활용하여 고차원 영상 데이터에서 반성적 추론을 해결하고자 한다.
• 생성 확산 모델과 구조적 인과 모델(Structural Causal Models, SCMs)을 통합하여 간섭 추론을 위한 인과 추론 프레임워크를 개발하고자 한다.
• 역확산 과정 중에 역인과 예측기의 기울기를 활용하여 최소화되고 현실적인 반성적 결과 생성을 가능하게 하고자 한다.
• 반성적 결과의 최소성과 품질을 평가하기 위한 새로운 평가 지표인 반성적 잠재 분산(Counterfactual Latent Divergence, CLD)을 제안하고자 한다.
• MNIST와 ImageNet에서 정량적 및 정성적 평가를 통해 본 방법의 효과성을 입증하고자 한다.

제안 방법

• 관측 데이터로부터 잠재 변수를 추론하기 위해 결정론적 전방 확산 과정을 사용하여 잠재 공간의 조작을 가능하게 한다.
• 입력 이미지에 대한 역인과 예측기의 기울기를 활용하여 역확산 과정에서 간섭을 적용한다.
• 노이즈 제거 확산 모델(Denoising Diffusion Probabilistic Models, DDPMs)을 사용하여 역과정을 학습하며, 신경망이 데이터 분포의 로그우도의 기울기를 근사한다.
• 이미지에서 결과(예: 클래스 레이블)를 예측하도록 훈련된 역인과 예측기를 통합하며, 이 기울기가 인과 변수에 대한 간섭을 안내한다.
• 마르코프 체인 몬테카를로(Markov Chain Monte Carlo, MCMC) 샘플링을 사용하여 간섭된 기울기를 활용해 확산 과정을 반복적으로 탐색함으로써 반성적 결과를 생성한다.
• 반성적 결과의 최소성과 품질 평가를 위한 새로운 평가 지표인 CLD(Counterfactual Latent Divergence)를 제안하며, 이는 사실적 및 반성적 샘플 간의 잠재 공간 거리와 자연스러운 데이터 변동성을 기반으로 측정한다.

실험 결과

연구 질문

• RQ1 확산 모델과 구조적 인과 모델을 효과적으로 통합하여 고차원 영상 데이터에서 현실적인 반성적 결과를 생성할 수 있는가?
• RQ2 역확산 과정에서 역인과 예측기의 기울기를 활용하여 정확한 반성적 결과 생성을 위한 간섭을 어떻게 이끌 수 있는가?
• RQ3 새로운 지표인 CLD가 기존 기준선 대비 반성적 결과의 최소성과 품질을 효과적으로 평가할 수 있는가?
• RQ4 최적의 하이퍼파rameter 설정(예: 척도 파ram터 s)은 무엇이며, CLD는 하이퍼파rameter 튜닝에 어떻게 활용될 수 있는가?
• RQ5 제안된 Diff-SCM 프레임워크는 MNIST와 ImageNet에서 정량적 지표와 정성적 현실성 모두에서 최신 기술을 초월하는가?

주요 결과

• 제안된 CLD 지표를 통해 검증된 결과, Diff-SCM는 MNIST에서 기준선 방법 대비 더 현실적이고 최소화된 반성적 결과를 생성한다.
• 간섭 강도를 위한 최적의 척도 하이퍼파ram터 s는 0.7로 확인되었으며, CLD 기반 하이퍼파ram터 검색을 통해 최소성과 클래스 이동 간의 균형을 확보하였다.
• CLD 지표는 최고 성능을 내는 모델 설정을 성공적으로 식별하였으며, 다양한 평가 기준에서 기준선을 초월하였다.
• 이 방법은 ImageNet 256x256 데이터로도 일반화되어 의미 있는 클래스 전환을 반영하는 타당한 반성적 결과를 생성한다.
• 역인과 예측기의 기울기를 사용함으로써, 조정자가 존재하는 상황에서도 명시적인 그래프 손상 없이 효과적인 간섭을 수행할 수 있다.
• 정성적 결과는 일관되고 의미적으로 유의미한 이미지 변환을 보이며, 반성적 결과 생성 분야에서 최신 기술 수준의 성능을 달성하였다.