[논문 리뷰] Semiparametric Bayesian causal inference using Gaussian process priors

Kolyan Ray, Aad van der Vaart|arXiv (Cornell University)|2018. 08. 13.

Advanced Causal Inference Techniques인용 수 4

한 줄 요약

이 논문은 이元 결과가 있는 원인 추론을 위한 반모수 베이지안 방법을 제안하며, 가우시안 프로세스 사전분포를 사용하여 성향 스코어를 비모수적으로 모델링하고, 부드러움 조건 하에서 효율적인 추정을 달성한다. 더 나아가, 더 약한 정규성 조건 하에서도 효율성을 보장하는 새로운 성향 스코어에 의존하는 사전분포를 도입하였으며, 공변수 분포를 모델링할 때 딜레트 프로세스 또는 베이지안 부트스트랩 사전분포가 가우시안 프로세스보다 이론적으로 우월함을 보여준다.

ABSTRACT

We develop a semiparametric Bayesian approach for estimating the mean response in a missing data model with binary outcomes and a nonparametrically modelled propensity score. Equivalently we estimate the causal effect of a treatment, correcting nonparametrically for confounding. We show that standard Gaussian process priors satisfy a semiparametric Bernstein-von Mises theorem under smoothness conditions. We further propose a novel propensity score-dependent prior that provides efficient inference under strictly weaker conditions. We also show that it is theoretically preferable to model the covariate distribution with a Dirichlet process or Bayesian bootstrap, rather than modelling the covariate density using a Gaussian process prior.

연구 동기 및 목표

• 이원 결과 모델에서 성향 스코어를 비모수적으로 모델링한 반모수 베이지안 프레임워크를 개발하는 것.
• 기존의 가우시안 프로세스 사전분포가 반모수 베르누이-폰 마이제스 정리에 만족하는 조건을 규명하는 것.
• 기존 방법보다 더 약한 부드러움 조건 하에서도 효율적인 추론이 가능한 새로운 성향 스코어에 의존하는 사전분포를 제안하는 것.
• 공변수 분포를 모델링할 때 딜레트 프로세스 또는 베이지안 부트스트랩 사전분포를 사용하는 것과 가우시안 프로세스 사전분포를 사용하는 것의 이론적 성능를 비교하는 것.

제안 방법

• 이 방법은 이원 결과가 있는 누락 데이터 모델에서 성향 스코어를 비모수적으로 추정하기 위해 가우시안 프로세스 사전분포를 사용한다.
• 진짜 성향 스코어의 부드러움 조건 하에서, 반모수 베르누이-폰 마이제스 정리를 통한 점근적 빈도주의 타당성을 확립한다.
• 성향 스코어의 본질적 부드러움에 적응할 수 있도록 새로운 성향 스코어에 의존하는 사전분포를 구성하여, 더 약한 정규성 조건 하에서도 효율성을 향상시킨다.
• 가우시안 프로세스 대신 딜레트 프로세스 또는 베이지안 부트스트랩을 사용하여 공변수 분포를 모델링함으로써, 사후 농도 집중에 대한 편향을 방지한다.

실험 결과

연구 질문

• RQ1 누락 데이터가 있는 이원 결과 모델에서 표준 가우시안 프로세스 사전분포가 반모수 사후 추론에 유효한 조건는 무엇인가?
• RQ2 표준 사전분포가 요구하는 조건보다 더 약한 부드러움 조건 하에서도 효율적 추정이 가능한 성향 스코어에 의존하는 사전분포를 구성할 수 있는가?
• RQ3 공변수 분포의 사전분포 선택이 원인 추론에서 사후 농도 집중과 추정 효율성에 어떤 영향을 미치는가?
• RQ4 성향 스코어에 대해 가우시안 프로세스 사전분포를 사용할 경우 평균 반응의 사후 분포가 점근적으로 정규분포를 띠며 효율적인가?

주요 결과

• 표준 가우시안 프로세스 사전분포는 진짜 성향 스코어의 부드러움 조건 하에서 반모수 베르누이-폰 마이제스 정리를 만족하여, 사후 평균의 점근적 정규성과 효율성을 보장한다.
• 제안된 성향 스코어에 의존하는 사전분포는 기존 사전분포보다 엄격히 더 약한 부드러움 조건 하에서도 효율적인 추론을 달성하여 강건성을 향상시킨다.
• 공변수 분포를 딜레트 프로세스 또는 베이지안 부트스트랩으로 모델링하는 것이 가우시안 프로세스 사전분포를 사용하는 것보다 이론적으로 바람직한데, 이는 사후 농도 집중의 편향을 피하기 때문이다.
• 이론적 결과는 성향 스코어와 공변수 분포에 비모수 사전분포를 사용하는 것이 바람직하며, 특히 비정규 또는 꼬리가 두꺼운 공변수 구조에 더 적합하다는 것을 지지한다.