[논문 리뷰] Deep Counterfactual Networks with Propensity-Dropout

Ahmed M. Alaa, Michael Weisz외 1명|arXiv (Cornell University)|2017. 06. 19.

Stochastic Gradient Optimization Techniques참고 문헌 17인용 수 48

한 줄 요약

이 논문은 관찰 데이터에서 선택 편향을 완화하기 위해 경향점수 기반 드롭아웃 기반 정규화를 적용한 다중작업 딥러닝 프레임워크인 Deep Counterfactual Networks with Propensity-Dropout (DCN-PD)를 제안한다. 이 프레임워크는 공유 및 결과별 특화된 레이어를 사용하여 사실적 및 반사적 결과를 모델링하며, 성능은 IHDP 데이터셋에서 다음으로 우수한 베이스라인 대비 평균제곱오차(MSE)를 21.3% 감소시켜 최신 기술 수준을 확립한다.

ABSTRACT

We propose a novel approach for inferring the individualized causal effects of a treatment (intervention) from observational data. Our approach conceptualizes causal inference as a multitask learning problem; we model a subject's potential outcomes using a deep multitask network with a set of shared layers among the factual and counterfactual outcomes, and a set of outcome-specific layers. The impact of selection bias in the observational data is alleviated via a propensity-dropout regularization scheme, in which the network is thinned for every training example via a dropout probability that depends on the associated propensity score. The network is trained in alternating phases, where in each phase we use the training examples of one of the two potential outcomes (treated and control populations) to update the weights of the shared layers and the respective outcome-specific layers. Experiments conducted on data based on a real-world observational study show that our algorithm outperforms the state-of-the-art.

연구 동기 및 목표

• 실제 치료 배정에서 내재된 선택 편향을 다루어 관찰 데이터에서 개인화된 원인 효과 추정을 향상시키기 위해.
• 치료를 특징로 간주하는 직접 모델링 접근 방식의 한계를 극복하기 위해, 치료와 공변량 간의 상호작용을 제한하는 방식을 개선하기 위해.
• 사실적 및 반사적 결과에 대한 공유 및 결과별 특화 표현을 함께 학습시켜 모델링의 유연성과 통계적 효율성을 향상시키기 위해.
• 경향점수에 기반한 드롭아웃을 동적으로 조정하는 정규화 기법을 개발하여 선택 편향 하에서 일반화 성능을 향상시키기 위해.
• 추론 시 몬테카를로 경향점수 드롭아웃을 적용하여 개인화된 치료 효과 추정의 불확실성 추정을 가능하게 하기 위해.

제안 방법

• 모델은 사실적 및 반사적 결과 모두에 대해 공유 레이어를 사용하고, 각 결과에 대해 별도의 결과별 특화 레이어를 갖는 딥 다중작업 아키텍처를 사용한다.
• 네트워크는 번갈아가며 훈련되는 단계로 구성된다: 먼저 제어군 데이터를 사용해 공유 레이어와 제어군 전용 레이어를 업데이트하고, 다음으로 치료군 데이터를 사용해 공유 레이어와 치료군 전용 레이어를 업데이트한다.
• 새로운 경향점수 기반 드롭아웃 정규화 기법은 훈련 중에 환자의 경향점수 비례 확률로 네트워크를 얇게 만들어, 편향된 데이터에 대한 과적합을 줄인다.
• 경향점수는 별도의 순방향 신경망을 통해 추정되며, 각 훈련 예제에 대해 드롭아웃 비율을 동적으로 조정하는 데 사용된다.
• 추론 시 몬테카를로 드롭아웃을 적용하여 개인화된 치료 효과 예측의 불확실성 추정을 수행한다.
• 모든 레이어에 대해 Adam 옵timizer와 Xavier 초기화를 사용하며, 에포크 단위로 번갈아가며 배치 업데이트를 수행한다.

실험 결과

연구 질문

• RQ1 치료를 특징으로 간주하는 직접 모델링 방식보다, 사실적 및 반사적 결과를 함께 효과적으로 모델링할 수 있는 딥 다중작업 학습 프레임워크는 존재하는가?
• RQ2 경향점수 기반 드롭아웃 정규화 기법은 관찰 데이터 기반 원인 분석에서 선택 편향을 줄이고 일반화 성능을 향상시키는가?
• RQ3 제안된 DCN-PD 모델은 실제 관찰 데이터에서 개인화된 치료 효과를 추정하는 데 최신 기술 수준의 방법보다 뛰어나게 성능을 발휘하는가?
• RQ4 공유 및 결과별 특화 레이어를 갖는 다중작업 아키텍처는 통계적 효율성과 모델링의 유연성을 얼마나 향상시키는가?
• RQ5 몬테카를로 경향점수 드롭아웃은 개인 치료 효과에 대한 신뢰할 수 있는 불확실성 추정을 제공할 수 있는가?

주요 결과

• DCN-PD는 IHDP 데이터셋에서 MSE 2.05 ± 0.03을 기록하여, BNN(다음으로 우수한 모델)을 포함한 모든 베이스라인을 앞서며 가장 낮은 평균제곱오차를 기록했다.
• 다음으로 우수한 베이스라인(BNN) 대비 21.3% 향상된 성능은 제안된 아키텍처와 정규화 기법의 유의미한 성능 향상을 입증한다.
• 표준 드롭아웃(0.2 확률) 대비 경향점수 기반 드롭아웃은 MSE를 20.5% 감소시켜, 선택 편향에 대한 정규화 기법으로서의 효과를 입증한다.
• 단일 출력 신경망(NN-4, MSE 2.88 ± 0.10)보다 유의미하게 뛰어난 성능을 기록하여, 직접 모델링 대비 다중작업 학습의 우수성을 입증한다.
• 균일 드롭아웃을 사용하는 모델보다 편향된 관찰 데이터에서 더 우수한 일반화 성능을 보여, 경향점수 인식 정규화의 유용성을 확인한다.
• 몬테카를로 경향점수 드롭아웃의 적용으로 개인 치료 효과 예측에 대한 신뢰할 수 있는 불확실성 추정이 가능해졌다.