[논문 리뷰] Deep Structural Causal Models for Tractable Counterfactual Inference

Nick Pawlowski, Daniel C. Castro외 1명|arXiv (Cornell University)|2020. 06. 11.

Domain Adaptation and Few-Shot Learning참고 문헌 65인용 수 83

한 줄 요약

이 논문은 정상화 흐름과 변분 추론으로 외생 노이즈를 추론하여 해석 가능한 반사실 추론을 가능하게 하는 DSCMs(깊은 구조적 인과 모델)의 통합 프레임워크를 제시하며, Morpho-MNIST 및 뇌 MRI 데이터에서 시연한다.

ABSTRACT

We formulate a general framework for building structural causal models (SCMs) with deep learning components. The proposed approach employs normalising flows and variational inference to enable tractable inference of exogenous noise variables - a crucial step for counterfactual inference that is missing from existing deep causal learning methods. Our framework is validated on a synthetic dataset built on MNIST as well as on a real-world medical dataset of brain MRI scans. Our experimental results indicate that we can successfully train deep SCMs that are capable of all three levels of Pearl's ladder of causation: association, intervention, and counterfactuals, giving rise to a powerful new approach for answering causal questions in imaging applications and beyond. The code for all our experiments is available at https://github.com/biomedia-mira/deepscm.

연구 동기 및 목표

• 깊이 학습 구성 요소를 갖춘 구조적 인과 모델(SCM)에 대한 통합 프레임워크를 제공한다.
• 변분 추론 또는 정규화 흐름을 통해 외생 노이즈를 추론하는 것을 주장하여 해석 가능한 반사실 추론을 가능하게 한다.
• Morpho-MNIST 합성 데이터에서 접근법을 시연하여 Pearl의 인과의 사다리(연관, 개입, 반사실) 전반에 걸친 인과 추론을 검증한다.
• 의료 영상에서 반사실 추론을 보여주기 위해 뇌 MRI 데이터에 대한 실제 적용 가능성을 시연한다.

제안 방법

• 가역적 명시 가능도, 보조적 명시 가능도, 보조적 암시 가능도 메커니즘의 세 가지 클래스를 도입한다.
• 가역 구성요소를 모델링하기 위해 정규화 흐름을 사용하고, abduction을 다루기 위해 변분/추론 기법을 사용한다.
• 외생 노이즈에 대한 해석 가능한 추론을 갖는 세 단계 프로세스(abduction, action, prediction)로 반사실 추론을 공식화한다.
• 조건부 흐름 및 모듈식 심층 구성요소를 통해 부모에 조건화하는 것을 허용하여 확장 가능하고 구조화된 DSCMs를 구축한다.
• 정확한 계산이 다루기 어려운 경우 반사실 샘플을 생성하기 위한 몬테카를로 샘플링 절차를 제공한다.

실험 결과

연구 질문

• RQ1 고차원 데이터에 대해 연관, 개입, 반사실 추론을 지원하는 깊은 구조적 인과 모델을 구축할 수 있는가?
• RQ2 DSCM에서 외생 노이즈를 tractable하게 추론하여 단위 수준의 반사실을 가능하게 할 수 있는가?
• RQ3 정규화 흐름 및 변분 추론으로 학습된 DSCMs가 영상 작업에서 그럴듯한 반사실을 생성하는가?
• RQ4 다른 심층 메커니즘 아키텍처가 연관적, 개입적, 반사실적 능력에 어떤 영향을 미치는가?
• RQ5 Morpho-MNIST 및 뇌 MRI와 같은 합성 및 실제 의료 영상 데이터에서 프레임워크를 검증하여 실용적 인과 추론을 보여줄 수 있는가?

주요 결과

• DSCMs는 고차원 데이터에서 인과 관계를 표현하고 Pearl의 인과의 사다리의 모든 세 단계를 지원할 수 있다.
• 변분 추론 또는 정규화 흐름을 통해 외생 노이즈를 추론하는 것은 반사실에 대한 해석 가능한 abductive를 가능하게 한다.
• Morpho-MNIST에서 전체 인과 모델은 상호 의존성 포착 및 정확한 반사실 생성에서 독립적/조건부 변형보다 우수하다(반사실의 MAE가 더 낮음).
• 뇌 영상에서 DSCM은 연령, 성별, 뇌 및 뇌실 부피가 개입하에 어떻게 상호작용하는지에 대한 그럴듯한 반사실을 보여준다.
• Morpho-MNIST에서 세 모델 비교는 인과 구조를 포함할 때 가능도가 더 높아지고 재구성이 개선되며 반사실 생성이 가능해진다는 양적 증거를 제공한다.
• 정확한 반전이tractable하지 않을 때 몬테카를로를 통해 분포를 근사하는 반사실 샘플링이 가능하다.