[논문 리뷰] Counterfactual Prediction with Deep Instrumental Variables Networks

Jason Hartford, Greg Lewis외 2명|arXiv (Cornell University)|2016. 12. 30.

Machine Learning and Data Classification참고 문헌 29인용 수 33

한 줄 요약

이 논문은 관측 데이터에서 인과적 효과를 추정하기 위해 고 instrumental 변수를 활용하는 딥 러닝 프레임워크인 Deep IV를 소개한다. 문제를 두 단계의 순차적 신경망 작업으로 구조화함으로써, 첫 번째 단계는 치료 예측, 두 번째 단계는 통합된 치료 분포 손실을 사용한 반사적 결과 모델링이다. 이 방법은 샘플 외 성능이 뛰어나며, 베이지안 및 허수 추론을 모두 가능하게 하여, 내생성에 노출된 표준 머신러닝 및 2SLS보다 뛰어난 성능을 발휘한다.

ABSTRACT

We are in the middle of a remarkable rise in the use and capability of artificial intelligence. Much of this growth has been fueled by the success of deep learning architectures: models that map from observables to outputs via multiple layers of latent representations. These deep learning algorithms are effective tools for unstructured prediction, and they can be combined in AI systems to solve complex automated reasoning problems. This paper provides a recipe for combining ML algorithms to solve for causal effects in the presence of instrumental variables -- sources of treatment randomization that are conditionally independent from the response. We show that a flexible IV specification resolves into two prediction tasks that can be solved with deep neural nets: a first-stage network for treatment prediction and a second-stage network whose loss function involves integration over the conditional treatment distribution. This Deep IV framework imposes some specific structure on the stochastic gradient descent routine used for training, but it is general enough that we can take advantage of off-the-shelf ML capabilities and avoid extensive algorithm customization. We outline how to obtain out-of-sample causal validation in order to avoid over-fit. We also introduce schemes for both Bayesian and frequentist inference: the former via a novel adaptation of dropout training, and the latter via a data splitting routine.

연구 동기 및 목표

• 비관측 혼란 요인으로 인해 치료 배정이 내생적인 관측 데이터에서 인과 효과를 추정하는 데 도전하는 문제를 해결하기 위해.
• 경제학적 고 instrumental 변수 이론을 현대 머신러닝과 통합한 확장 가능하고 유연한 딥 러닝 프레임워크를 개발하기 위해.
• 반사적 예측에 대한 샘플 외 인과 검증 및 불확실성 정량화(베이지안 및 허수)를 가능하게 하기 위해.
• 딥 뉴럴 네트워크가 강한 파rametric 가정 없이도 IV 프레임워크 하에서 비선형적이고 이질적인 치료 효과를 효과적으로 모델링할 수 있는지 입증하기 위해.

제안 방법

• 이 방법은 인과 추론 문제를 두 단계로 분해한다: 첫 번째 단계에서는 딥 뉴럴 네트워크가 도구 변수와 공변량에서 치료를 예측한다.
• 두 번째 단계의 네트워크는 치료와 공변량에 대한 결과를 함수로 모델링하며, 내생성 문제를 보정하기 위해 조건부 치료 분포를 통합하는 손실 함수를 사용한다.
• 구조적 제약 조건을 고려한 확률적 경사 하강법이 두 네트워크의 공동 학습을 가능하게 하기 위해 적응된다.
• 베이지안 추론은 드롭아웃의 새로운 변형을 통해 가능해지며, 이 경우 역수 드롭아웃 비율이 사후 불확실성의 정밀도 파라미터로 기능한다.
• 허수 추론은 두 번째 단계 예측에 대한 조건부 추론을 가능하게 하는 데이터 분할 루틴을 통해 달성된다.
• 딥 뉴럴 네트워크를 사용한 유연하고 비모수적 치료 효과 모델링이 가능하며, 선형 또는 파arametric 가정을 피한다.

실험 결과

연구 질문

• RQ1 딥 뉴럴 네트워크는 복잡하고 고차원적인 관측 데이터에서 인과 효과를 추정하기 위해 고 instrumental 변수 방법과 효과적으로 조합될 수 있는가?
• RQ2 반사적 예측 모델에서 과적합을 방지하기 위해 샘플 외 인과 검증은 어떻게 달성될 수 있는가?
• RQ3 베이지안 및 허수 추론 절차의 상대적 장점은 딥 IV 모델의 맥락에서 무엇인가?
• RQ4 내생성 존재 시 Deep IV 프레임워크는 표준 머신러닝 및 2SLS보다 얼마나 뛰어나게 성능을 발휘하는가?

주요 결과

• Deep IV는 특히 높은 내생성에서 FFNet이 진짜 반사적 결과를 회복하지 못하는 상황에서도 샘플 외 구조적 평균 제곱 오차에서 표준 피드포워드 신경망(FFNet)보다 뚜렷이 뛰어난 성능을 보인다.
• FFNet는 내생성이 높을 경우 성능이 떨어지지만, Deep IV는 내생성 수준에 관계없이 뛰어난 성능을 유지하며, 학습 데이터가 증가할수록 성능이 향상된다.
• 선형성과 동질성에 제약을 받는 두 번째 단계 최소제곱(2SLS) 방법은 FFNet보다 성능이 뛰어나지만, 특히 더 큰 데이터셋에서 Deep IV에 뒤지게 된다.
• 역수 드롭아웃 비율 c=0.99를 사용한 Deep IV의 베이지안 불확실성 추정치는 신뢰구간을 잘 유지하며 대부분 진짜 반사적 형태를 회복하지만, 허수 대비 더 넓은 간격을 가진다.
• 데이터 분할을 통한 허수 추론은 베이지안 드롭아웃보다 더 좁은 불확실성 추정치를 제공하지만, 두 방법 모두 타당하며 튜닝 선택에 따라 달라진다.
• 100만 건의 관측 데이터에서 Deep IV의 테스트 샘플 MSE는 c=0.99일 때 0.026였으며, 이는 강력한 일반화 성능과 더 많은 데이터에서의 오차 감소를 시사한다.