[논문 리뷰] Smooth, identifiable supermodels of discrete DAG models with latent variables

Robin J. Evans, Thomas S. Richardson|arXiv (Cornell University)|2015. 11. 20.

Bayesian Modeling and Causal Inference참고 문헌 15인용 수 8

한 줄 요약

이 논문은 잠재 변수를 가진 DAG에 대해 비정규성과 식별 불가능성을 피하는 매끄럽고 식별 가능한 매개수화를 제안한다. 전통적인 잠재 변수 모델의 문제점을 피하기 위해 도-계산법에 기반한 인과적으로 해석 가능한 완전 식별 가능한 매개수를 사용함으로써, 모델이 알려진 차원을 가진 굽은 지수형 가족임을 입증하고, 잠재 변수에 대한 비모수적 가정 없이 표준 통계적 추론과 최대우도 추정을 가능하게 한다.

ABSTRACT

We provide a parameterization of the discrete nested Markov model, which is a supermodel that approximates DAG models (Bayesian network models) with latent variables. Such models are widely used in causal inference and machine learning. We explicitly evaluate their dimension, show that they are curved exponential families of distributions, and fit them to data. The parameterization avoids the irregularities and unidentifiability of latent variable models. The parameters used are all fully identifiable and causally-interpretable quantities.

연구 동기 및 목표

• DAG에서 표준 잠재 변수 모델의 비정규성과 식별 불가능성 문제를 해결하기 위해.
• 관측되지 않은 변수에 대한 모수적 가정을 피하는 매개수화를 개발하기 위해.
• 모델의 모든 매개수가 식별 가능하고 인과적으로 해석 가능하도록 보장하기 위해.
• 이산 중첩 마르코프 모델이 알려진 차원을 가진 굽은 지수형 가족임을 입증하기 위해.
• 표준 통계적 추론 절차, 예를 들어 최우도 비율 검정과 최대우도 추정을 이 모델에 적용할 수 있도록 하기 위해.

제안 방법

• 순환하지 않는 유향 혼합 그래프(ADMGs) 기반의 재귀적 인수분해를 사용하여 조건부 인성과 분포 제약 조건을 표현한다.
• 도-계산법에서 유도된 간섭 분포, 예를 들어 P(Y=0|do(X=x,M=m))와 같은 식별 가능한 매개수를 정의한다.
• 제약 조건을 만족하는 양수 분포에서 식별 가능한 매개수로의 매끄럽고 일대일 사상(비가역 사상)을 사용하여 통계적 규칙성을 확보한다.
• 재귀적 인수분해 성질을 적용하여 모델의 차원을 d(G) = Σ|˜XH|·|XT|로 계산하며, ADMG의 각 구성요소 H에 대해 적용한다.
• Evans와 Richardson(2010)의 알고리즘을 수정하여 최대우도 추정을 수행하며, 매개수 매핑을 통해 수치적 피팅을 가능하게 한다.
• 모델의 차원 차이에 해당하는 자유도를 가진 카이제곱 분포와 비교하여 최우도 비율 통계량을 사용한 가설 검정을 수행한다.

실험 결과

연구 질문

• RQ1 잠재 변수를 가진 이산 DAG의 슈퍼모델을 구성할 수 있는가? 이는 기존 잠재 변수 모델의 비정규성과 식별 불가능성을 피할 수 있는가?
• RQ2 관측된 분포를 완전히 기술할 수 있는 식별 가능하고 인과적으로 해석 가능한 매개수가 존재하는가?
• RQ3 이산 중첩 마르코프 모델이 알려진 차원을 가진 굽은 지수형 가족임을 입증할 수 있는가?
• RQ4 표준 통계적 추론 절차, 예를 들어 최우도 비율 검정을 이 모델에 적용할 수 있는가?
• RQ5 식별 가능한 매개수와 수치 최적화를 통해 이 모델을 실제 데이터에 효과적으로 피팅할 수 있는가?

주요 결과

• 이산 중첩 마르코프 모델은 차원 d(G) = Σ|˜XH|·|XT|를 가지며, 각 ADMG에 대해 명시적으로 계산된 굽은 지수형 가족이다.
• 간섭 분포 P(Y=0|do(X=x,M=m))와 같은 매개수화를 사용함으로써 모델은 매끄럽고 일대일 사상이 성립하여 완전한 식별성이 보장된다.
• 잠재 변수의 상태공간에 대한 가정을 피함으로써 비모수적이며 관측되지 않은 혼란 요인에 대해 강건하다.
• Wisconsin 종합 연구 데이터에서는 그림 8(b)의 구조를 가진 모델이 6도의 자유도에서 5.57의 디바이언스를 보이며 양호한 피팅을 보였다.
• 추정된 인과 효과는 P(Y=1|do(X=1)) = 0.50 (SE 0.018) 및 P(Y=1|do(X=0)) = 0.36 (SE 0.016)였으며, 높은 가족 소득이 향후 소득에 강한 인과적 영향을 미친다.
• 결측 간선이 있는 모델(예: 그림 8(a))은 강하게 기각되었으며, 디바이언스는 2도의 자유도에서 31.3이었다.