[논문 리뷰] Linear Causal Disentanglement via Interventions

Chandler Squires, Anna Seigal외 2명|arXiv (Cornell University)|2022. 11. 29.

Bayesian Modeling and Causal Inference인용 수 4

한 줄 요약

이 논문은 관측 데이터로부터 잠재 인과 구조를 유일하게 특정하기 위해 간섭을 사용하는 선형 인과 분리 방법을 제안한다. 간섭이 각 잠재 변수에 대해 필수적이고 충분함을 증명하며, 새로운 부분 순서 기반 행렬 분해를 활용하여 인과 모델을 복원하고, 합성 데이터, 준합성 데이터, 단일세포 RNA-seq 데이터에서 정확한 복원을 보여준다.

ABSTRACT

Causal disentanglement seeks a representation of data involving latent variables that relate to one another via a causal model. A representation is identifiable if both the latent model and the transformation from latent to observed variables are unique. In this paper, we study observed variables that are a linear transformation of a linear latent causal model. Data from interventions are necessary for identifiability: if one latent variable is missing an intervention, we show that there exist distinct models that cannot be distinguished. Conversely, we show that a single intervention on each latent variable is sufficient for identifiability. Our proof uses a generalization of the RQ decomposition of a matrix that replaces the usual orthogonal and upper triangular conditions with analogues depending on a partial order on the rows of the matrix, with partial order determined by a latent causal model. We corroborate our theoretical results with a method for causal disentanglement that accurately recovers a latent causal model.

연구 동기 및 목표

• 관측 및 간섭 데이터로부터 선형 잠재 인과 모델이 유일하게 식별 가능한 조건을 설정하는 것.
• 간섭 데이터가 부족할 경우 인과 분리에서의 비유일성 문제를 해결하는 것.
• 유한 표본 데이터로부터 잠재 인과 구조를 회복하는 실용적인 방법을 개발하는 것.
• 합성 데이터, 준합성 데이터, 실제 단일세포 RNA 시퀀싱 데이터에서 방법을 검증하는 것.
• 암 환자의 생존 결과와의 연관성을 통해 학습된 잠재 변수의 생물학적 해석 가능성을 탐색하는 것.

제안 방법

• 잠재 인과 그래프에서 유도된 부분 순서 기반 조건으로 정규직교 및 상삼각 행렬 제약을 대체하는 행렬의 일반화된 RQ 분해를 제안한다.
• 각 잠재 변수에 대한 완벽한 간섭과 관측적 맥락의 데이터를 사용하여 혼합 행렬 $G$, 구조 계수 $B_k$, 잠재 구조 $H$ 를 추정한다.
• 다양한 맥락의 공분산 행렬에서 일반화된 RQ 분해를 적용하여 잠재 인과 모델을 복원한다.
• 실제 표본 수 제한 조건에서 이론적 알고리즘을 실용화하기 위해 경험적 공분산 추정 및 행렬 분해 기법을 적용한다.
• 파rameter 추정을 위해 점수 기반 접근법을 사용하며, 정규화된 최대우도 추정 또는 기울기 기반 최적화 방법과도 통합 가능하다.
• 합성 및 준합성 데이터셋에서 복원 정확도를 통해 방법을 검증하고, KRAS 돌연변이를 가진 폐암 환자에 대한 단일세포 RNA-seq 데이터셋에 적용한다.

실험 결과

연구 질문

• RQ1 선형 잠재 인과 모델의 유일한 식별을 위해 필요한 간섭 조건는 무엇인가?
• RQ2 인과 그래프에서 유도된 부분 순서에 기반한 잠재 인과 구조를 회복할 수 있는 일반화된 행렬 분해 기법을 개발할 수 있는가?
• RQ3 합성 및 준합성 데이터에서 유한 표본 설정에서 제안된 방법이 진짜 잠재 인과 모델을 얼마나 잘 복원하는가?
• RQ4 실제 생물학적 데이터셋에서 학습된 잠재 변수를 알려진 생물학적 경로와 임상 결과에 의미 있게 연결할 수 있는가?
• RQ5 최소 $d+1$개의 맥락이 제공되지 않을 경우, 잠재 인과 모델의 파라미터는 어느 정도 부분적으로 식별 가능한가?

주요 결과

• 최악의 경우, 각 잠재 변수에 대한 간섭이 선형 인과 분리 모델의 식별성에 필수적이고 충분하다.
• 제안된 방법은 고차원 잠재 공간에서도 합성 및 준합성 데이터에서 생성 모델을 정확하게 복원한다.
• 83개 유전자와 83개의 KRAS 돌연변이를 포함한 단일세포 RNA-seq 데이터셋에서, 환자의 생존과 유의미하게 연관된 다섯 개의 잠재 변수를 성공적으로 식별했다 (corrected p < 0.1).
• 학습된 잠재 구조는 KRAS의 핵심 기능 잔류물(예: G12, G13)을 강조하며, 알려진 암 유도 메커니즘과 일치한다.
• 일반화된 RQ 분해를 통해 인과 순서를 행렬 분해 제약 조건에 통합함으로써 잠재 인과 모델의 유일한 복원이 가능해진다.
• 절단 실험을 통해 노이즈에 강건하며, $10^8$에 이르는 큰 표본 크기에서도 잘 작동함을 입증했다.