[논문 리뷰] MissDeepCausal: Causal Inference from Incomplete Data Using Deep Latent Variable Models

Imke Mayer, Julie Josse외 2명|arXiv (Cornell University)|2020. 02. 25.

Advanced Causal Inference Techniques참고 문헌 40인용 수 6

한 줄 요약

MissDeepCausal는 관찰 데이터에서 누락된 공변량을 가진 상황에서 인과적 영향을 추정하기 위해 변분 오토인코더를 사용하는 깊이 있는 잠재변수 모델을 제안한다. 이 모델은 잠재적 혼란요인의 사후 분포로부터 다중 착수를 통해 누락된 공변량을 보정하며, 누락이 임의적(MAR)인 가정 하에 이중으로 강건한 추정기와 통합함으로써 비선형 데이터 생성 메커니즘 하에서도 최신 기술 수준의 편향과 평균제곱오차 성능을 달성한다.

ABSTRACT

Inferring causal effects of a treatment, intervention or policy from observational data is central to many applications. However, state-of-the-art methods for causal inference seldom consider the possibility that covariates have missing values, which is ubiquitous in many real-world analyses. Missing data greatly complicate causal inference procedures as they require an adapted unconfoundedness hypothesis which can be difficult to justify in practice. We circumvent this issue by considering latent confounders whose distribution is learned through variational autoencoders adapted to missing values. They can be used either as a pre-processing step prior to causal inference but we also suggest to embed them in a multiple imputation strategy to take into account the variability due to missing values. Numerical experiments demonstrate the effectiveness of the proposed methodology especially for non-linear models compared to competitors.

연구 동기 및 목표

• 실제 관찰 데이터에서 누락된 공변량을 처리하지 못하는 인과 추론 방법의 핵심적 격차를 해소하기 위해.
• 강한 파rametric 가정에 의존하지 않고 누락된 데이터로 인한 불확실성을 고려한 유연하고 비선형적인 인과 효과 추정 방법을 개발하기 위해.
• 깊이 있는 잠재변수 모델을 다중 착수 및 이중으로 강건한 추정과 통합하여 치료 효과 추정의 강건성과 정확도를 향상시키기 위해.
• 선형 모델을 초월하고 복잡한 고차원 누락 데이터 패턴을 다룰 수 있는 확장성 있고 모odu lar한 프레임워크를 제공하기 위해.

제안 방법

• MAR 가정 하에서 불완전한 공변량을 잠재적 혼란요인의 노이즈 있는 대체 측정값으로 모델링하기 위해 수정된 우도를 사용하는 변분 오토인코더(VAEs)를 활용한다.
• 점 추정치가 아닌 잠재 변수의 전체 사후 분포를 확률적 샘플링을 통해 활용하여 누락된 데이터로 인한 불확실성을 포착한다.
• 다중 착수 전략을 도입하여 잠재적 혼란요인의 여러 샘플을 추출하고 이를 후행 단계의 이중으로 강건한 추정기의 입력으로 사용한다.
• 잠재적 혼란요인의 착수를 이중으로 강건한 추정기(DR log-linear 및 DR 랜덤 포레스트 등)와 통합하여 모델 잘못 설정 하에서도 일관성을 확보한다.
• 착수 과정에서의 선택 편향을 보정하기 위해 중요도 샘플링을 적용하여 누락 메커니즘에 대한 강건성을 향상시킨다.
• 베이지안 성향 확률 점수 방법을 영감으로 삼은 모듈러 디자인을 사용하여 기존 인과 추론 파ipeline에 즉시 통합할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 깊이 있는 잠재변수 모델은 불완전한 공변량으로부터 잠재적 혼란요인을 효과적으로 복원하여 인과 효과 추정을 향상시킬 수 있는가?
• RQ2 비선형 데이터 생성 메커니즘 하에서 MissDeepCausal는 최신 기술 수준의 방법들과 비교해 편향과 평균제곱오차 측면에서 어떻게 성능을 내는가?
• RQ3 잠재 변수의 전체 사후 분포를 다중 착수를 통해 활용할 경우, 점 추정치보다 더 강건하고 정확한 치료 효과 추정을 이끌 수 있는가?
• RQ4 특히 진짜 데이터 생성 모델이 비선형인 경우, MissDeepCausal는 누락 수준이 증가함에 따라 얼마나 잘 성능을 유지하는가?

주요 결과

• IHDP 벤치마크에서 MissDeepCausal는 모든 누락 수준에서 가장 낮은 평균 절대오차(Δ)를 기록했으며, 50% 누락일 때 DR rf 추정기와 함께 Δ = 0.18 ± 0.01을 기록했다.
• 이 방법은 MI(50% 누락 시 Δ = 1.54 ± 0.03) 및 CEVAE(50% 누락 시 Δ = 0.38 ± 0.02)와 같은 경쟁 방법들보다 뚜렷이 뛰어난 성능을 보였다.
• MissDeepCausal는 0%, 10%, 30%, 50% 등의 다양한 누락 수준에서 안정적인 성능을 유지하여 데이터 불완전성에 대한 강건성을 입증했다.
• 잠재적 혼란요인의 사후 샘플 기반 다중 착수 전략은 단일 착수 또는 전체 사례 분석보다 더 높은 추정 정확도를 제공한다.
• 특히 진짜 데이터 생성 과정이 비선형인 경우 MissDeepCausal는 CEVAE 및 MI보다 뛰어난 성능을 보이며, 복잡한 실제 환경에서의 장점을 입증한다.