[논문 리뷰] Quantifying Ignorance in Individual-Level Causal-Effect Estimates under Hidden Confounding

Andrew Jesson, Sören Mindermann외 2명|arXiv (Cornell University)|2021. 03. 08.

Advanced Causal Inference Techniques참고 문헌 39인용 수 11

한 줄 요약

이 논문은 고차원 관측 데이터에서 숨겨진 혼란 요인, 부적절한 유사성, 열악한 오버랩으로 인한 무지의 정도를 정량화하는 새로운 파라미터화된 간격 추정기(Interval Estimator)를 제안한다. 베이지안 딥러닝을 통한 지식적 불확실성과 은닉된 혼란 요인에 대한 인과적 민감도 분석을 통합함으로써, 불확실성이 증가할수록 간격이 넓어지는 강건한 CATE 간격을 생성하여 고위험 분야에서 더 안전한 개인 맞춤형 의사결정을 가능하게 한다.

ABSTRACT

We study the problem of learning conditional average treatment effects (CATE) from high-dimensional, observational data with unobserved confounders. Unobserved confounders introduce ignorance -- a level of unidentifiability -- about an individual's response to treatment by inducing bias in CATE estimates. We present a new parametric interval estimator suited for high-dimensional data, that estimates a range of possible CATE values when given a predefined bound on the level of hidden confounding. Further, previous interval estimators do not account for ignorance about the CATE associated with samples that may be underrepresented in the original study, or samples that violate the overlap assumption. Our interval estimator also incorporates model uncertainty so that practitioners can be made aware of out-of-distribution data. We prove that our estimator converges to tight bounds on CATE when there may be unobserved confounding, and assess it using semi-synthetic, high-dimensional datasets.

연구 동기 및 목표

• 비관측 혼란 요인이 존재하는 관측 데이터에서 개인 수준의 인과 효과를 추정하는 데 도전하는 것.
• 부적절한 유사성, 열악한 오버랩, 은닉된 혼란 요인이라는 세 가지 무지의 원인을 하나의 정량화 가능한 측정치로 통합하는 것.
• 모델 잘못 지정, 데이터 희소성, 비관측 혼란 요인으로 인한 불확실성을 반영한 CATE의 간격 추정을 개발하는 것.
• CATE 추정이 매우 불확실할 경우 권고를 유보할 수 있도록 하여, 의료와 같은 고위험 적용 분야에서의 안전성을 향상시키는 것.
• 민감도 분석을 통해 형식화된 다양한 수준의 은닉된 혼란 요인 하에서도 추정기가 유효하고 날카로운 유지 보장을 보장하는 것.

제안 방법

• 몬테카를로 드롭아웃과 모델 앙상블을 활용한 베이지안 딥러닝을 사용하여 CATE 예측의 지식적 불확실성을 추정하고, 데이터 희소성과 열악한 오버랩으로 인한 무지를 포괄한다.
• 인과적 민감도 분석에서 유도된 은닉된 혼란 요인 강도에 대한 사전 정의된 경계를 포함하는 파라미터화된 간격 추정기를 적용한다.
• 이질적 분산 불확실성과 다중 모드의 결과 예측을 지원하기 위해 결과 분포를 혼합 밀도 네트워크(MDN)로 모델링한다.
• 치료 배정의 불확실성을 정량화하기 위해 베르누이 우도를 사용하는 별도의 신경망을 통해 성향 스코어를 추정한다.
• 결과 모델과 치료 모델 양쪽의 불확실성을 네트워크 가중치에 대한 몬테카를로 샘플링을 통해 통합하여 강건한 CATE 간격을 생성한다.
• 고차원 설정에서의 훈련 안정성과 불확실성 캘리브레이션 향상을 위해 스펙트럴 정규화와 드롭아웃을 적용한다.

실험 결과

연구 질문

• RQ1 비관측 혼란 요인이 CATE 추정에 영향을 주는 개인 수준의 CATE 추정에서 무지를 어떻게 정량화할 수 있는가?
• RQ2 베이지안 딥러닝과 인과적 민감도 분석이 데이터 희소성, 열악한 오버랩, 은닉된 혼란 요인으로 인한 불확실성을 공동으로 얼마나 잘 포괄할 수 있는가?
• RQ3 제안된 간격 추정기가 은닉된 혼란 요인 수준이 증가함에 따라 CATE에 대해 날카롭고 유효한 경계를 생성할 수 있는가?
• RQ4 伝통적인 CATE 추정기가 비관측 혼란 요인으로 인해 실패하는 고차원의 반합성 데이터셋에서 이 방법은 어떻게 성능을 발휘하는가?
• RQ5 외부 분포 또는 고위험 케이스에서 점 추정 대비 무지 간격은 의사결정 안전성을 어떻게 향상시키는가?

주요 결과

• 이론적으로 증명된 lin, 제안된 간격 추정기는 은닉된 혼란 요인 수준이 사전 정의된 경계 내에 있을 경우 CATE에 대해 유효하고 날카로운 경계를 생성한다.
• 베이지안 딥러닝 모델의 지식적 불확실성을 통해 부적절한 유사성과 열악한 오버랩으로 인한 무지를 효과적으로 포착한다.
• 데이터 포인트가 오버랩 가정을 위반하거나 훈련 맨포ลด의 외부에 위치할 경우 무지 간격이 적절히 넓어지며 경고 신호를 발령한다.
• 은닉된 혼란 요인이 존재하는 고차원 반합성 데이터셋(HC-MNIST 및 IHDP)에서, 추정기는 커버리지와 불확실성 캘리브레이션 측면에서 베이스라인 방법들을 능가한다.
• 앙상블 모델과 몬테카를로 샘플링을 활용하여 안정적인 불확실성 추정이 가능하며, MC 샘플 수가 증가함에 따라 수렴이 관찰된다.
• 고위험 영역 또는 외부 분포 영역에서 불확실성이 높을 경우 권고를 유보함으로써 안전한 의사결정을 가능하게 한다.