[논문 리뷰] Valid Causal Inference with (Some) Invalid Instruments

Jason Hartford, Victor Veitch외 2명|Research Explorer (The University of Manchester)|2020. 06. 19.

Advanced Causal Inference Techniques참고 문헌 27인용 수 6

한 줄 요약

이 논문은 다수의 공 instrumental variable(IV)이 배제 제약 조건을 위반하더라도 일관된 인과적 추론을 가능하게 하는 강건한 IV 방법인 ModeIV를 소개한다. 여러 후보 IV 간의 모드(다수) 관계를 활용하여, 모든 IV가 유효할 필요 없이 인과 효과를 추정할 수 있으며, 비선형 및 이질적 처리 효과를 추정하는 기계학습 기반 추정기와도 호환된다.

ABSTRACT

Instrumental variable methods provide a powerful approach to estimating causal effects in the presence of unobserved confounding. But a key challenge when applying them is the reliance on untestable "exclusion" assumptions that rule out any relationship between the instrument variable and the response that is not mediated by the treatment. In this paper, we show how to perform consistent IV estimation despite violations of the exclusion assumption. In particular, we show that when one has multiple candidate instruments, only a majority of these candidates---or, more generally, the modal candidate-response relationship---needs to be valid to estimate the causal effect. Our approach uses an estimate of the modal prediction from an ensemble of instrumental variable estimators. The technique is simple to apply and is "black-box" in the sense that it may be used with any instrumental variable estimator as long as the treatment effect is identified for each valid instrument independently. As such, it is compatible with recent machine-learning based estimators that allow for the estimation of conditional average treatment effects (CATE) on complex, high dimensional data. Experimentally, we achieve accurate estimates of conditional average treatment effects using an ensemble of deep network-based estimators, including on a challenging simulated Mendelian Randomization problem.

연구 동기 및 목표

• 인과적 추론에서 중요한 과제인 배제 제약 조건의 검증 불가능성 문제를 해결하기 위해, 공 instrumental variable(IV) 방법에서의 배제 제약 조건이 처리를 통해 결과에 직접 영향을 주지 않는다는 가정을 다루는 것.
• 모든 IV가 유효해야 한다는 조건을 완화하여, 대부분 또는 모드 집합의 IV가 유효한 경우에도 일관된 인과 추정이 가능하도록 하는 것.
• 기존의 모든 IV 추정기(특히 조건부 평균 처리 효과(CATE)를 추정하는 최신 기계학습 기반 접근법 포함)와 호환되는 블랙박스 방법을 개발하는 것.
• 모드 유효성이라는 더 약한 가정 하에서 인과 추론에 대한 이론적 보장을 제공하는 것, 즉 가장 흔한 IV-반응 관계가 유효하다는 가정.
• 고차원적, 비선형 설정에서의 경험적 강건성을 입증하기 위해, 낮은 신호 대 잡음 비율을 가진 도전적인 메델리안 랜덤라이제이션 시뮬레이션을 포함한 것.

제안 방법

• 다양한 IV 추정기의 예측을 집계하고 그 중에서 모드(가장 흔한) 예측을 선택하여 인과 효과를 추정하는 새로운 방법인 ModeIV를 제안한다.
• 각기 다른 후보 IV에 대해 적용된 IV 추정기의 앙상블을 사용하여 처리 효과 함수 $ f(t,x) $ 의 개별 추정치를 생성한다.
• 앙상블 내에서 가장 흔한 추정치를 식별하기 위해 모드 탐색 절차를 적용하며, 이는 대부분의 IV가 유효할 경우 모드 추정치가 진짜 인과 효과에 해당한다고 가정한다.
• 모든 IV 추정기와 호환되도록 하기 위해, 독립적인 IV 추정 결과를 집계하는 블랙박스 후처리 단계로 방법을 처리한다.
• 이론적 기반은 개별 IV가 유효하지 않더라도 IV와 결과 간의 모드 관계는 유효하다는 가정에 기반한다.
• 모드 유효성 가정 하에서 점점 증가하는 표본 크기와 함께 진짜 인과 효과로 수렴하는 점근적 일관성 보장

실험 결과

연구 질문

• RQ1 대부분 또는 모드 집합의 후보 IV가 배제 제약 조건을 위반할 경우, 유효한 인과적 추론을 수행할 수 있는가?
• RQ2 다수의 IV 추정기 예측을 집계하는 블랙박스 앙상블 방법이 잘못된 IV가 있는 상황에서도 일관된 추정을 달성할 수 있는가?
• RQ3 고차원적, 비선형 처리 효과 및 낮은 신호 대 잡음 비율 설정에서 ModeIV는 어떻게 성능을 발휘하는가?
• RQ4 개별 추정기가 편향을 가질 경우에도, 다수의 IV 추정치의 모드가 진짜 인과 효과와 일치하는 조건은 무엇인가?
• RQ5 ModeIV는 현대 기계학습 기반 IV 추정기와 효과적으로 통합되어 이질적 처리 효과를 추정하는 데 사용될 수 있는가?

주요 결과

• ModeIV는 많은 IV가 유효하지 않은 경우에도 합성 및 현실적인 메델리안 랜덤라이제이션 시뮬레이션에서 조건부 평균 처리 효과(CATE)의 정확한 추정을 달성한다.
• 낮은 신호 대 잡음 비율의 시뮬레이션에서 배제 제약 조건 편향에 강건함을 입증하여 일관된 성능을 보였다.
• 모드 IV-반응 관계가 유효한 한, 대부분의 IV가 유효하지 않더라도 높은 정확도를 유지한다.
• 잘못된 IV를 걸러내는 데서 발생하는 효율성 손실은 실질적으로 무시할 수 있을 정도로 작아, ModeIV는 강건성과 효율성을 동시에 확보한다.
• 딥러닝 기반 IV 추정기(예: DeepIV)를 고차원 설정에서 효과적으로 활용하여 비선형 인과 효과 추정이 가능하게 했다.
• 이론적 분석 결과, 모드 유효성 가정 하에서 ModeIV는 점근적으로 일관되며 강력한 통계적 보장을 제공한다.