[논문 리뷰] Multiple Causal Inference with Latent Confounding

Rajesh Ranganath, Adler Perotte|arXiv (Cornell University)|2018. 05. 21.

Bayesian Modeling and Causal Inference참고 문헌 39인용 수 23

한 줄 요약

이 논문은 관측되지 않은 혼동요인 하에서 다중 치료에 대한 원인 효과를 추정하기 위한 방법인 정보 기반 다중 원인 추정(MCEI)을 제안한다. 이 방법은 상호정보량을 정규화 요소로 사용하는 신경망 기반 혼동요인 추정기로, 공통 혼동요인과 치료 간 독립성의 균형을 이루며, 시뮬레이션과 실제 ICU 데이터에서 정확한 원인 효과 추정을 달성한다. 특히 혼동요인 존재나 모델 불일치 상황에서 PCA 기반 방법보다 뛰어난 성능을 보인다.

ABSTRACT

Causal inference from observational data requires assumptions. These assumptions range from measuring confounders to identifying instruments. Traditionally, causal inference assumptions have focused on estimation of effects for a single treatment. In this work, we construct techniques for estimation with multiple treatments in the presence of unobserved confounding. We develop two assumptions based on shared confounding between treatments and independence of treatments given the confounder. Together, these assumptions lead to a confounder estimator regularized by mutual information. For this estimator, we develop a tractable lower bound. To recover treatment effects, we use the residual information in the treatments independent of the confounder. We validate on simulations and an example from clinical medicine.

연구 동기 및 목표

• 관측되지 않은 혼동요인 존재 시 다중 치료에 대한 원인 추론 문제를 해결하며, 기존의 단일 치료 가정을 확장한다.
• 공통 혼동요인과 혼동요인을 조건으로 한 치료 간 조건부 독립성이라는 두 가지 핵심 가정을 정식화한다.
• 과적합을 방지하면서도 혼동요인의 구조를 유지하는 실용적인 정보 정규화 혼동요인 추정기를 개발한다.
• 혼동요인 조정 후 치료의 잔차 정보를 이용해 원인 효과 모델을 구축함으로써 정보 泄漏를 방지한다.
• 합성 데이터와 MIMIC-III 데이터베이스에서의 실제 임상 데이터를 활용해 방법의 강건성과 정확성을 검증한다.

제안 방법

• 다른 치료들에 대해 주어진 각 치료가 기여하는 추가 상호정보량을 정규화하면서도 치료의 복원 오차를 최소화하는 혼동요인 추정기를 제안한다.
• 정보 정규화된 추정기 최적화를 가능하게 하는 타당한 로그우도 하한인 다중 원인 하한(MCEI)을 도입한다.
• 치료와 추정된 혼동요인 간 비선형 관계를 모델링하기 위해 딥 신경망을 사용한다.
• 혼동요인 조정 후 치료의 잔차 정보를 결과 변수에 대한 회귀 분석을 통해 원인 효과를 추정함으로써 혼동요인의 중복을 방지한다.
• 다양한 혼동요인 수준을 가진 합성 데이터와 MIMIC-III에서의 실제 ICU 데이터(37개의 혈액 검사 결과를 치료로 사용)에 방법을 적용한다.
• 임상 데이터에 대해 정규 분포를 사용하고, 혈액 검사 변수를 표준화/변환하며, 결측치는 각 검사 유형별 중앙값으로 보간한다.

실험 결과

연구 질문

• RQ1 잠재된 혼동요인 하에서 공통 혼동요인과 혼동요인을 조건으로 한 치료 간 조건부 독립성 가정이 관측되지 않은 혼동요인 하에서 일관된 원인 효과 추정을 가능하게 하는가?
• RQ2 상호정보량을 정규화 요소로 사용할 경우, 치료 특이 신호에 과적합되지 않도록 혼동요인 추정을 균형 있게 조정할 수 있는가?
• RQ3 모델 불일치 상황에서 기존의 PCA와 비교해 MCEI 방법이 혼동요인 추정 및 원인 효과 복원에서 뛰어난 성능을 보이는가?
• RQ4 실제 의료 데이터, 예를 들어 혈액 검사 값이 ICU 체류 기간에 영향을 주는지와 같은 생물학적·임상적으로 타당한 원인 효과를 회복할 수 있는가?
• RQ5 기준 방법 대비 관측되지 않은 혼동요인 수준이 증가함에 따라 방법의 성능은 어떻게 변화하는가?

주요 결과

• 혼동요인 차원이 정확히 지정된 경우, MCEI는 특히 높은 혼동요인 수준에서 PCA와 유사하거나 더 나은 혼동요인 추정 성능을 보였다.
• 혼동요인 차원이 잘못 지정된 경우(예: 진짜 D=2인데 D=10으로 사용) MCEI는 원인 매개변수 추정의 평균 제곱오차(MSE)에서 PCA를 능가하는 강건성을 보였다.
• MIMIC-III 데이터에 대한 임상 실험에서 MCEI는 문헌과 일치하는 원인 효과를 회복했다: 높은 혈액 요소 질소와 백혈구 수치는 더 긴 ICU 체류 기간과 관련이 있었고, 저칼륨혈증과 크레아티닌 수치는 반대로 관계를 보였다.
• 치료의 잔차에 기반한 결과 모델은 혼동요인으로 설명되지 않는 원인 신호를 성공적으로 분리했으며, 정보 중복으로 인한 모델 붕괴를 방지했다.
• 치료 수와 표본 수가 증가함에 따라 기술적 조건 하에서 진짜 원인 효과로 수렴함을 보여 이론적 일관성을 뒷받침했다.
• mclbo 하한은 복잡한 비선형 신경망 아키텍처를 사용할 때에도 정보 정규화된 혼동요인 추정기의 안정적인 최적화를 가능하게 했다.