[논문 리뷰] Observational-Interventional Priors for Dose-Response Learning

Ricardo Silva|arXiv (Cornell University)|2016. 05. 05.

Gaussian Processes and Bayesian Inference참고 문헌 19인용 수 3

한 줄 요약

이 논문은 관찰 데이터와 간섭 데이터를 조합하여 비모수적 복용량-반응 곡선 추정을 향상시키는 계층적 가우시안 프로세스 사전분포를 제안한다. 관찰 데이터로 사전분포를 설정하고, 희소한 간섭 데이터로부터 비모수적 애핀 변환을 통해 이를 정밀하게 보정함으로써 학습 속도를 가속화하고 정확도를 향상시킨다. 조기 출생 아기 치료 데이터에 대한 시뮬레이션 실험에서 평균 정규화 절대 오차가 0.06~0.08 감소하였다.

ABSTRACT

Controlled interventions provide the most direct source of information for learning causal effects. In particular, a dose-response curve can be learned by varying the treatment level and observing the corresponding outcomes. However, interventions can be expensive and time-consuming. Observational data, where the treatment is not controlled by a known mechanism, is sometimes available. Under some strong assumptions, observational data allows for the estimation of dose-response curves. Estimating such curves nonparametrically is hard: sample sizes for controlled interventions may be small, while in the observational case a large number of measured confounders may need to be marginalized. In this paper, we introduce a hierarchical Gaussian process prior that constructs a distribution over the dose-response curve by learning from observational data, and reshapes the distribution with a nonparametric affine transform learned from controlled interventions. This function composition from different sources is shown to speed-up learning, which we demonstrate with a thorough sensitivity analysis and an application to modeling the effect of therapy on cognitive skills of premature infants.

연구 동기 및 목표

• 간섭 데이터가 부족하고 수집에 비용이 많이 들기 때문에 복용량-반응 곡선을 학습하는 데 도전하는 문제를 해결하기 위해.
• 제한된 간섭 데이터와 관찰 데이터를 융합하여 원인 효과의 비모수적 추정을 향상시키기 위해.
• 두 데이터 원천을 모두 활용하면서도 모형 잘못 설정에 강건한 원칙적인 계층적 사전분포를 개발하기 위해.
• 실제로 조기 출생 아기 치료 연구에서 수집된 데이터를 바탕으로 본 방법의 성능을 입증하기 위해, 여기서 치료 수준은 랜덤화되지 않았다.

제안 방법

• 이 방법은 관찰 데이터로부터 복용량-반응 곡선에 대한 기본 분포를 학습하는 계층적 가우시안 프로세스 사전분포를 사용한다.
• 희소한 간섭 데이터를 활용해 비모수적 애핀 변환을 적용하여 사전분포를 재구성함으로써, 적은 수의 간섭 샘플로도 효율적으로 보완할 수 있다.
• 변환은 제곱 지수 공분산 함수를 갖는 가우시안 프로세스를 통해 학습되며, 이는 부드러움과 유연성을 보장한다.
• 모델은 측정된 혼동요인 $ \mathbf{Z} $ 를 통합하여 간섭 평균 반응을 추정하기 위해 뒤로 가는 조정(back-door adjustment)을 사용한다. $ f(x) = \mathbb{E}[Y \mid do(X=x)] $.
• 모델은 혼동요인 $ \mathbf{Z} $ 가 뒤로 가는 기준을 만족한다고 가정하여 관찰 및 간섭 데이터를 동시에 고려하는 공동 가능도를 사용해 훈련된다.
• 본 방법은 민감도 분석과 실질 연구에서 얻은 데이터를 기반으로 한 시뮬레이션 간섭 데이터 생성을 통해 평가된다.

실험 결과

연구 질문

• RQ1 관찰 데이터를 효과적으로 활용하여 간섭 데이터가 제한적일 경우 복용량-반응 곡선의 추정을 향상시킬 수 있는가?
• RQ2 계층적 사전분포를 통해 관찰 데이터와 간섭 데이터를 융합할 경우, 각각의 데이터 원천을 별도로 사용할 때와 비교해 추정 정확도가 어떻게 향상되는가?
• RQ3 혼동요인의 측정가능성이 떨어지거나 뒤로 가는 기준이 위반될 경우, 모형 잘못 설정에 대해 본 방법은 얼마나 강건한가?
• RQ4 단지 간섭 데이터만을 사용하는 표준 가우시안 프로세스 회귀와 비교해 본 방법은 추정 오차를 얼마나 줄이는가?
• RQ5 실제 데이터에서 모성 교육 수준과 같은 다양한 공변량 군집에서 본 방법은 어떻게 성능을 발휘하는가?

주요 결과

• 10개의 간섭 샘플이 각 치료 수준에 대해 사용되었을 때, 고등학교 졸업, 학사 졸업, 통합된 모성 교육 수준 군집에서 평균 정규화 절대 오차가 각각 0.06, 0.07, 0.08 감소하였다.
• 고등학교 졸업, 학사 졸업, 통합된 군집에서 각각 82%, 89%, 91%의 경우에서 본 방법이 순수 간섭 데이터 기반 가우시안 프로세스 회귀보다 성능이 뛰어났다.
• 민감도 분석을 통해 본 방법은 수렴 속도 향상과 모형 잘못 설정에 대한 강건성을 입증하였다.
• 제안된 방법의 사후 평균 곡선은 순수 간섭 데이터 기반 표준 GP 회귀보다 시뮬레이션 간섭 데이터에 더 잘 맞는 것으로 나타났다.
• 실제 아기 발달 데이터를 기반으로 생성된 시뮬레이션 데이터에서 비선형 복용량-반응 관계를 효과적으로 포착하였으며, 특히 모성 교육 수준에 따라 변하는 범위를 포함하였다.
• 혼동요인이 완전히 반영되지 않은 상황에서도 본 방법은 강력한 성능 유지를 보였으며, 측정되지 않은 피드백 효과가 존재하는 환경에서의 실용성에 기여한다.