[논문 리뷰] Perturbations and Causality in Gaussian Latent Variable Models

Armeen Taeb, Peter Bühlmann|arXiv (Cornell University)|2021. 01. 18.

Bayesian Modeling and Causal Inference참고 문헌 37인용 수 4

한 줄 요약

이 논문은 반응 변수나 잠재 변수가 변화하지 않아야 한다는 제약 조건 없이, 비특이적 외부 자극 데이터를 사용하여 가우시안 잠재변수 모델에서 원인 구조를 식별하기 위한 최대우도 추정기인 DirectLikelihood를 제안한다. 이 방법은 전체 시스템의 불변성 특성을 활용하여 인구 원인 구조를 유일하게 복원하며, 비가우시안 선형 모델로도 확장된다.

ABSTRACT

Causal inference is a challenging problem with observational data alone. The task becomes easier when having access to data from perturbing the underlying system, even when happening in a non-randomized way: this is the setting we consider, encompassing also latent confounding variables. To identify causal relations among a collections of covariates and a response variable, existing procedures rely on at least one of the following assumptions: i) the response variable remains unperturbed, ii) the latent variables remain unperturbed, and iii) the latent effects are dense. In this paper, we examine a perturbation model for interventional data, which can be viewed as a mixed-effects linear structural causal model, over a collection of Gaussian variables that does not satisfy any of these conditions. We propose a maximum-likelihood estimator -- dubbed DirectLikelihood -- that exploits system-wide invariances to uniquely identify the population causal structure from unspecific perturbation data, and our results carry over to linear structural causal models without requiring Gaussianity. We illustrate the utility of our framework on synthetic data as well as real data involving California reservoirs and protein expressions.

연구 동기 및 목표

• 관측 데이터에 외부 자극이 가해진 경우에도 기존 가정이 성립하지 않을 때 원인 추론 문제를 해결하기 위해.
• 기존 방법들이 반응 변수나 잠재 변수가 변화하지 않아야 한다는 조건을 요구하는 한계를 극복하기 위해.
• 밀도 있는 잠재 효과나 간섭 전용 설계를 가정하지 않고도 원인 구조를 식별할 수 있는 방법을 개발하기 위해.
• 전체 시스템의 불변성 원리를 활용하여 가우시안 및 비가우시안 선형 구조적 원인 모델 모두에 유효한 프레임워크를 구축하기 위해.
• 비특이적 외부 자극 데이터로부터 인구 원인 구조를 유일하게 식별할 수 있는 강력한 추정기인 DirectLikelihood를 제공하기 위해.

제안 방법

• 잠재 공변인자가 존재하는 가우시안 변수에 대해 외부 자극을 적용하는 혼합효과 선형 구조적 원인 모델을 제안한다.
• 다양한 외부 자극 간섭에 걸쳐 불변성 특성을 활용하는 최대우도 추정기인 DirectLikelihood를 개발한다.
• 관측 변수와 잠재 변수 모두가 외부 자극을 받더라도, 전체 시스템의 불변성 특성을 이용해 원인 효과를 식별한다.
• 혼합효과 모델 하에서 우도 함수를 유도하고 이를 최적화하여 원인 계수를 추정한다.
• 동일한 불변성 원리를 활용하여 비가우시안 선형 구조적 원인 모델로 방법을 확장한다.
• 이론적 분석과 시뮬레이션 및 실세계 데이터를 활용한 실험적 평가를 통해 추정기의 타당성을 검증한다.

실험 결과

연구 질문

• RQ1 반응 변수나 잠재 변수가 변화하지 않아야 한다는 가정 없이, 비특이적 외부 자극 데이터로부터 원인 구조를 고유하게 식별할 수 있는가?
• RQ2 외부 자극이 가해진 데이터에서 전체 시스템의 불변성 특성을 어떻게 활용하여 밀도 있는 잠재 효과를 가정하지 않고도 원인 효과를 추정할 수 있는가?
• RQ3 가우시안 잠재변수 모델에서 일반적인 외부 자극 환경 하에서 제안된 DirectLikelihood 추정기가 식별 가능성과 일致성(consistency)을 유지하는가?
• RQ4 이 방법은 비가우시안 선형 구조적 원인 모델로 얼마나 잘 일반화되는가?
• RQ5 기존 방법들과 비교해 볼 때, 표준 가정을 위반하는 설정에서 DirectLikelihood의 성능은 어떠한가?

주요 결과

• DirectLikelihood는 반응 변수나 잠재 변수가 변화하지 않아야 한다는 조건 없이도 비특이적 외부 자극 데이터로부터 인구 원인 구조를 고유하게 식별한다.
• 잠재 효과가 희박한 경우에도 식별 가능성을 확보하여 이전 방법의 핵심 한계를 극복한다.
• 제안된 혼합효과 모델 프레임워크 하에서 추정기는 일致성과 점진적 효율성을 확보한다.
• 시뮬레이션 데이터에 대한 실증 결과는 다양한 외부 자극 환경 하에서도 진짜 원인 구조를 회복할 수 있음을 확인한다.
• 캘리포니아 저수지 데이터와 단백질 발현 데이터에 대한 적용 사례는 이 방법의 실세계 적용 가능성과 강건성을 입증한다.
• 이 프레임워크는 가우시안성 조건을 초월하여 비가우시안 오차를 가진 선형 구조적 원인 모델에도 유효성을 유지한다.