[논문 리뷰] Identifiability Guarantees for Causal Disentanglement from Soft Interventions

Jiaqi Zhang, Chandler Squires외 4명|arXiv (Cornell University)|2023. 07. 12.

Gene expression and cancer classification인용 수 9

한 줄 요약

본 논문은 비쌍 관찰 데이터와 소개입 데이터 아래 일반화된 충실성 가정에서 잠재 인과 변수 및 구조의 식별 가능성을 보이고, 잠재 변수가 관찰되지 않는 상황에서도 이를 보장하며, AVB 기반 학습 알고리즘을 제시한다.

ABSTRACT

Causal disentanglement aims to uncover a representation of data using latent variables that are interrelated through a causal model. Such a representation is identifiable if the latent model that explains the data is unique. In this paper, we focus on the scenario where unpaired observational and interventional data are available, with each intervention changing the mechanism of a latent variable. When the causal variables are fully observed, statistically consistent algorithms have been developed to identify the causal model under faithfulness assumptions. We here show that identifiability can still be achieved with unobserved causal variables, given a generalized notion of faithfulness. Our results guarantee that we can recover the latent causal model up to an equivalence class and predict the effect of unseen combinations of interventions, in the limit of infinite data. We implement our causal disentanglement framework by developing an autoencoding variational Bayes algorithm and apply it to the problem of predicting combinatorial perturbation effects in genomics.

연구 동기 및 목표

• 개입을 지원하는 잠재 인과 표현을 학습하는 인과적 분리의 필요성과 동기를 부여한다.
• 잠재 변수가 관찰되지 않는 경우에도 일반화된 충실성 개념 하에서 잠재 인과 모델의 식별 가능성을 보인다.
• CD 등가 클래스까지의 조상 관계 및 전체 인과 구조를 식별하는 이론적 결과를 제공한다.
• 데이터로부터 CD-등가 클래스를 복원하기 위한 실용적 학습 알고리즘을 개발한다.
• 보이지 않는 유전적 교란의 효과를 예측함으로써 유전체학에의 적용 가능성을 보여준다.

제안 방법

• X를 U를 갖는 DAG G를 따르는 f(U)로 모델링하고 관찰되지 않는 잠재 U를 두며; 개입은 P(U_i | pa_G(i))를 P^I(U_i | pa_G(i))로 수정한다.
• 다항식이면서 풀-랭크 혼합 함수 f와 지지 조건을 가정하여 U를 선형 변환까지 식별한다(가정 1).
• 일반화된 충실성(가정 1–3)과 개입 데이터로 CD-등가 클래스로의 G 및 개입의 식별 가능성을 확립한다(정리 1–2).
• 전이적 폐쇄 TS(G)를 사용해 조상 관계를 식별하고, 이어서 (G, I1,…,IK)의 CD-등가 클래스로 정제한다.
• 데이터로부터 U, G, I를 학습하기 위해 깊은 구조적 인과 모델 디코더를 갖춘 차이 기반 변분 오토인코더(DiscrepancyVAE)를 제안하고, 반사실적/개입 샘플링을 가능하게 한다.
• 학습된 U와 G를 통해 보이지 않는 조합적 개입을 예측하도록 프레임워크를 확장한다.

실험 결과

연구 질문

• RQ1 잠재 인과 구조와 개입 대상이 관찰되지 않는 상황에서도 비쌍 관찰 데이터와 소개입 데이터에서 잠재 인과 구조와 개입 대상이 식별될 수 있는가?
• RQ2 조건(가정 1–3)하에서 인과 그래프와 개입이 CD-등가까지 식별될 수 있는가?
• RQ3 선형 혼합을 갖는 개입 데이터로부터 조상 관계와 전체 직접 엣지를 어떻게 복원할 수 있는가?
• RQ4 데이터로부터 CD-등가 클래스를 추정하고 보이지 않는 개입 효과를 예측하는 확장 가능한 알고리즘을 학습할 수 있는가?
• RQ5 유전체 perturbation과 같은 고차원 생물학 데이터에 이 접근법이 어떻게 적용되는가?

주요 결과

• 일반화된 충실성 개념 아래 잠재 변수가 관찰되지 않아도 식별 가능하다(정리 1–2).
• 잠재 인과 모델은 CD-등가 클래스로 식별 가능하여 보이지 않는 개입 조합의 예측이 가능하다.
• 개입 데이터로 조상 관계를 식별할 수 있으며, 가정 3하에서 많은 경우 직접 엣지도 식별된다.
• 기울기 기반 AVB 접근법(DiscrepancyVAE)은 깊은 SCM 디코더와 희소성 촉진 목표를 통해 CD-등가 클래스를 학습할 수 있다.
• 보완 조합 교란 효과 예측을 위해 유전체학 데이터에 프레임워크를 시연한다.
• 학습된 잠재 구조를 통해 보이지 않는 개입 조합으로의 외삽을 지지한다.