[논문 리뷰] A Critical View of the Structural Causal Model

Tomer Galanti, Ofir Nabati외 1명|arXiv (Cornell University)|2020. 02. 23.

Bayesian Modeling and Causal Inference참고 문헌 26인용 수 4

한 줄 요약

이 논문은 인과 추론을 위한 복잡도 기반 접근법을 제안하며, 단변량 설정에서는 양자수 순서로 정렬된 데이터에 적용한 오토인코더의 재구성 오차를 비교하여 낮은 오차가 원인임을 밝혀낸다. 다변량 케이스에서는 인과성과 노이즈 성분을 암묵적으로 분리하는 새로운 적대적 오토인코더 프레임워크를 도입하여, 합성 및 실세계 데이터셋(메그 데이터 포함)에서 최신 기법들을 능가한다.

ABSTRACT

In the univariate case, we show that by comparing the individual complexities of univariate cause and effect, one can identify the cause and the effect, without considering their interaction at all. In our framework, complexities are captured by the reconstruction error of an autoencoder that operates on the quantiles of the distribution. Comparing the reconstruction errors of the two autoencoders, one for each variable, is shown to perform surprisingly well on the accepted causality directionality benchmarks. Hence, the decision as to which of the two is the cause and which is the effect may not be based on causality but on complexity. In the multivariate case, where one can ensure that the complexities of the cause and effect are balanced, we propose a new adversarial training method that mimics the disentangled structure of the causal model. We prove that in the multidimensional case, such modeling is likely to fit the data only in the direction of causality. Furthermore, a uniqueness result shows that the learned model is able to identify the underlying causal and residual (noise) components. Our multidimensional method outperforms the literature methods on both synthetic and real world datasets.

연구 동기 및 목표

• 단변량 구조적 인과 모델(SCM)에서 상호작용 대신 개별 복잡도 측정치를 통해 인과성을 추론할 수 있는지 조사하기 위해.
• 단변량 SCM에서 원인과 결과의 복잡도가 불균형한 현상(일般적으로 결과의 복잡도가 원인보다 낮음)을 인과 추론에 활용할 수 있는지 다루기 위해.
• 인과 모델의 구조를 명시적으로 모델링하고, 인과성 및 노이즈 성분을 분리하는 다변량 인과 추론 방법을 개발하기 위해.
• 학습 과정에서 원인과 잔차(노이즈) 성분 간의 통합성이 자연스럽게 발생하는지 평가하기 위해.
• 합성 벤치마크와 실세계 신경영상 데이터(MOUS-MEG)에서 뛰어난 성능을 보이며, 이로써 방법의 강건성과 일반화 능력을 검증하기 위해.

제안 방법

• 방법은 단변량 변수의 분위수 순서로 정렬된 샘플을 오토인코더의 입력으로 사용하며, 엔트로피의 대체 지표로 재구성 오차를 복잡도 측정치로 활용한다.
• 다변량 인과 발견을 위해 세 개의 신경망을 훈련한다: 원인에 대한 인코더, 결과에 대한 디코더, 그리고 원인과 결과의 잔차 표현 간의 통합성을 강제하는 판별기.
• 잔차 표현 R(Y)는 GAN 스타일의 손실을 사용해 원인 X와 독립이 되도록 적대적으로 훈련되며, 논문은 명시적인 훈련 없이도 통합성이 자연스럽게 발생할 수 있음을 보여준다.
• 단변량 케이스에서는 원인과 결과에 각각 오토인코더를 적용한 재구성 오차를 비교하여 인과 방향을 결정한다.
• 다변량 케이스에서는 f(X)와 R(Y)를 사용해 Y를 재구성하도록 모델을 훈련하며, f(X)와 R(Y) 간의 독립성을 적대적 손실을 통해 제약한다.
• 이 프레임워크는 인과 구조가 알려진 합성 데이터셋과 실세계 MEG 데이터에서 검증되었으며, 원인은 자극 이전 상태, 결과는 자극 이후 반응으로 정의된다.

실험 결과

연구 질문

• RQ1 단변량 구조적 인과 모델에서 두 변수의 개별 복잡도를 비교함으로써 상호작용을 모델링하지 않고도 인과 방향을 식별할 수 있는가?
• RQ2 단변량 SCM에서 결과가 원인보다 본질적으로 복잡도가 낮은가? 그리고 이러한 불균형을 인과 추론에 활용할 수 있는가?
• RQ3 다변량 케이스에서 명시적 지도 없이도 신경망 아키텍처를 설계해 SCM의 인과성 및 노이즈 성분을 암묵적으로 학습할 수 있는가?
• RQ4 학습 과정에서 원인과 잔차 표현 간의 통합성이 자연스럽게 발생하는가? 이는 명시적 적대적 제약의 필요성을 줄이는가?
• RQ5 복잡도 기반 방법이 합성 및 실세계 인과 추론 벤치마크에서 기존 최신 기법들을 능가할 수 있는가?

주요 결과

• 단변량 케이스에서 분위수 순서로 정렬된 데이터에 오토인코더를 적용한 재구성 오차는 인과 방향을 성공적으로 식별하며, 엔트로피 기반 방법보다 뛰어난 성능을 보인다.
• 기존 인과 추론 벤치마크에서 경쟁력 있는 성능을 달성하여, 단변량 설정에서 복잡도 불균형이 인과성의 강력한 지표임을 입증한다.
• 다변량 케이스에서 제안된 적대적 오토인코더 프레임워크는 합성 및 실세계 데이터셋(포함: MOUS-MEG 데이터셋)에서 기존 다변량 기법들을 능가한다.
• 원인 방향이 정확히 정의된 경우(MOUS-MEG 데이터셋에서 Rest+Word → Active) 높은 AUC 점수를 기록하며, 다른 방법들은 차원 수 불균형으로 인해 실패한다.
• 원인 X와 잔차 표현 R(Y) 간의 통합성이 명시적인 적대적 훈련 없이도 많은 경우에서 암묵적으로 발생하며, |c_real + c_fake - 1|의 낮은 값으로 이를 입증한다.
• 재구성 오차가 성능의 핵심 요소이며, 방법의 성공은 주로 복잡도 차이에 기인하며, 적대적 제약 조건에만 기반한 것이 아니다.