[논문 리뷰] Causal inference in partially linear structural equation models: identifiability and estimation

Jan Ernest, Dominik Rothenhaüsler외 1명|arXiv (Cornell University)|2016. 07. 20.

Bayesian Modeling and Causal Inference인용 수 8

한 줄 요약

이 논문은 가우시안 노이즈를 가진 부분선형 구조방정식모델(PLSEMs)의 식별 가능성에 대한 종합적인 이론을 수립한다. 그래픽, 변환, 기능, 인과적 순서 특성화를 통해 이뤄지며, PLSEM의 분포 등가 클래스를 일관되게 복원하는 점수 기반 추정 방법을 제안하여 고차원 설정에서의 인과적 구조 학습을 가능하게 한다.

ABSTRACT

We consider the identifiability and estimation of partially linear additive structural equation models with Gaussian noise (PLSEMs). Existing identifiability results in the framework of additive SEMs with Gaussian noise are limited to linear and nonlinear SEMs, which can be considered as special cases of PLSEMs with vanishing nonparametric or parametric part, respectively. We close the wide gap between these two special cases by providing a comprehensive theory of the identifiability of PLSEMs by means of (A) a graphical, (B) a transformational, (C) a functional and (D) a causal ordering characterization of PLSEMs that generate a given distribution. In particular, the characterizations (C) and (D) answer the fundamental question to which extent nonlinear functions in additive SEMs with Gaussian noise restrict the set of potential causal models and hence influence the identifiability. On the basis of the transformational characterization (B) we provide a score-based estimation procedure that outputs the graphical representation (A) of the distribution equivalence class of a given PLSEM. We derive its (high-dimensional) consistency and demonstrate its performance on simulated datasets.

연구 동기 및 목표

• 선형과 비선형 가감성 SEM 간의 격차를 메우기 위해, 가우시안 노이즈를 가진 부분선형 SEM에 대한 통합된 식별 가능성 이론을 개발하는 것.
• 다섯 가지 별도의 프레임워크인 그래픽, 변환, 기능, 인과적 순서를 통해 주어진 분포를 생성할 수 있는 인과 모델의 집합을 특성화하는 것.
• 가감성 SEM에서의 비선형 함수가 잠재적인 인과 모델 집합을 어떻게 제약하며, 이로 인해 식별 가능성에 영향을 주는지에 대한 근본적인 질문에 답하는 것.
• 계산적으로 실현 가능한 점수 기반 추정 절차를 개발하여 PLSEM의 분포 등가 클래스의 그래픽 표현을 출력하는 것.
• 제안된 추정 방법의 고차원 일관성을 확립하고, 시뮬레이션 데이터를 통해 성능을 검증하는 것.

제안 방법

• 논문은 오차 변수의 특정 변환을 통해 PLSEM의 분포와 그 기초 구조방정식을 연결하는 변환 특성화(B)를 도입한다.
• 이 변환 특성화를 바탕으로 점수 기반 추정 절차를 설정하여, 분포 등가 클래스의 그래픽 구조를 복원할 수 있도록 한다.
• 관측된 데이터 분포와 일치하는 잠재적인 인과 모델 집합을 제약하기 위해 기능 및 인과적 순서 특성화(C 및 D)를 활용한다.
• 추정 절차는 변수 수가 표본 크기와 함께 증가하는 고차원 설정에서도 일관성을 유지하도록 설계되어 있다.
• 조건부 독립성 구조를 탐색하기 위해 우도 기반 점수 함수를 사용하여 진짜 기저 그래프의 마르코프 등가 클래스를 식별한다.
• 알고리즘은 시뮬레이션을 통해 검증되었으며, 다양한 고차원 구성에서 등가 클래스를 정확히 복원하는 것으로 나타났다.

실험 결과

연구 질문

• RQ1 가우시안 노이즈를 가진 가감성 SEM에서 비선형 함수는 잠재적인 인과 모델 집합을 얼마나 제약하며, 이로 인해 식별 가능성에 어떤 영향을 미치는가?
• RQ2 선형과 비선형 SEM을 모두 일반화하는 부분선형 SEM에 대해 종합적인 식별 가능성 이론을 개발할 수 있는가?
• RQ3 그래픽, 변환, 기능, 인과적 순서 프레임워크를 통해 PLSEM의 분포 등가 클래스를 어떻게 특성화할 수 있는가?
• RQ4 고차원 설정에서 등가 클래스의 그래픽 구조를 일관되게 복원할 수 있는 점수 기반 추정 방법을 구성할 수 있는가?
• RQ5 제안된 방법의 실증적 성능은 시뮬레이션 데이터로부터 진짜 인과 구조를 얼마나 정확히 복원하는가?

주요 결과

• 논문은 주어진 분포를 생성하는 PLSEM 집합을 완전히 묘사하는 네 가지 별도의 특성화—그래픽, 변환, 기능, 인과적 순서—를 수립한다.
• 변환 특성화를 통해 PLSEM의 분포 등가 클래스를 일관되게 복원할 수 있는 점수 기반 추정 절차를 설계할 수 있다.
• 제안된 방법은 고차원 일관성을 달성하여, 변수 수가 표본 크기와 함께 증가하는 상황에서도 등가 클래스를 정확히 식별할 수 있다.
• 시뮬레이션 데이터셋에 대한 실증 평가 결과, 방법이 PLSEM의 기저 그래픽 구조를 정확히 복원하는 것으로 확인되었다.
• 기능 및 인과적 순서 특성화는 PLSEM의 비모수 성분이 잠재적인 인과 모델 집합을 어떻게 제약하는지에 대한 이론적 통찰을 제공한다.
• 결과적으로, 가우시안 노이즈를 가진 가감성 SEM에서의 비선형 함수는 잠재적인 인과 모델 집합을 크게 줄이며, 선형 경우보다 식별 가능성을 향상시킨다.