[논문 리뷰] Naïve regression requires weaker assumptions than factor models to adjust for multiple cause confounding

Justin Grimmer, Dean Knox외 1명|arXiv (Cornell University)|2020. 07. 24.

Advanced Causal Inference Techniques참고 문헌 19인용 수 8

한 줄 요약

이 논문은 다중 원인 설정에서 관측되지 않은 혼동요인을 보정하기 위한 요인 모델 기반 방법인 디컨포더보다 더 약한 가정 하에 비모수적 회귀—직접적으로 결과를 여러 치료에 대해 회귀하는 방식—가 점차적으로 편향이 없음을 보여준다. 저자들은 각 혼동요인이 무한히 많은 치료에 영향을 주는 경우, 비모수적 회귀가 일致성을 확보하지만, 디컨포더 변종은 추가로 검증할 수 없는 가정이 필요하며 실제로는 비모수적 회귀를 능가하지 못하는 경우가 많다. 특히 스탠 리가 마블 수익의 155억 달러를 유발한다는 비현실적인 추정치를 내놓는다.

ABSTRACT

The empirical practice of using factor models to adjust for shared, unobserved confounders, $\mathbf{Z}$, in observational settings with multiple treatments, $\mathbf{A}$, is widespread in fields including genetics, networks, medicine, and politics. Wang and Blei (2019, WB) formalizes these procedures and develops the "deconfounder," a causal inference method using factor models of $\mathbf{A}$ to estimate "substitute confounders," $\hat{\mathbf{Z}}$, then estimating treatment effects by regressing the outcome, $\mathbf{Y}$, on part of $\mathbf{A}$ while adjusting for $\hat{\mathbf{Z}}$. WB claim the deconfounder is unbiased when there are no single-cause confounders and $\hat{\mathbf{Z}}$ is "pinpointed." We clarify pinpointing requires each confounder to affect infinitely many treatments. We prove under these assumptions, a naïve semiparametric regression of $\mathbf{Y}$ on $\mathbf{A}$ is asymptotically unbiased. Deconfounder variants nesting this regression are therefore also asymptotically unbiased, but variants using $\hat{\mathbf{Z}}$ and subsets of causes require further untestable assumptions. We replicate every deconfounder analysis with available data and find it fails to consistently outperform naïve regression. In practice, the deconfounder produces implausible estimates in WB's case study to movie earnings: estimates suggest comic author Stan Lee's cameo appearances causally contributed \$15.5 billion, most of Marvel movie revenue. We conclude neither approach is a viable substitute for careful research design in real-world applications.

연구 동기 및 목표

• 다중 원인 설정에서 관측되지 않은 혼동요인을 보정하는 데 있어 비모수적 회귀와 디컨포더 방법의 이론적 및 실증적 성능을 평가하는 것.
• 특히 각 혼동요인이 무한히 많은 치료에 영향을 주는 조건(강한 무한 혼동)이 필요한지에 따라 디컨포더가 편향이 없는 조건을 명확히 하는 것.
• 실제 데이터와 시뮬레이션을 통해 디컨포더가 유한 표본에서 비모수적 회귀를 일관되게 능가하는지 테스트하는 것.
• 특히 복잡한 혼동 구조를 가진 경우에 두 방법의 실질적 적용 가능성을 평가하는 것.
• 요인 모델이 다중 원인 혼동 보정에 필수적이거나 우월하다는 가정을 도전하는 것.

제안 방법

• 저자들은 각 혼동요인이 무한히 많은 치료에 영향을 주는 조건(강한 무한 혼동) 하에서, 결과 Y를 치료 A에 대해 비모수적 회귀하면 점차적으로 편향이 없음을 보이는 渐近 이론을 수립한다.
• 선형-선형 및 비선형 모델 하에서 비모수적 추정기의 편향을 유도하여, 강한 무한 혼동 가정 하에서는 편향이 사라짐을 보인다.
• 디컨포더 방법은 두 단계 절차로 분석된다: 첫째, 요인 모델을 통해 치료 A에서 대체 혼동요인 Ẑ를 추정하고, 둘째, Y를 Ẑ와 A의 일부에 대해 회귀한다.
• 논문은 선형 및 비선형 설정 하에서 비모수적 회귀와 펜리티드, 화이트노이즈드, 사후평균, 부분집합 디컨포더 추정기 등 다양한 디컨포더 변종을 비교한다.
• 유한 표본 성능은 시뮬레이션과 마블 영화 수익에 대한 디컨포더의 배우 사례 연구 재현을 통해 평가된다.
• 모델 적합도 평가에 사후 예측 모델 점검을 사용하지만, 저자들은 이것이 디컨포더가 작동할 때를 신뢰성 있게 식별하지 못함을 보여준다.

실험 결과

연구 질문

• RQ1 다중 원인 혼동이 존재하는 상황에서 비모수적 회귀가 점차적으로 편향이 없는 조건은 무엇인가?
• RQ2 디컨포더 방법이 편향 없이 작동하기 위해 비모수적 회귀보다 더 강한 가정이 필요한가?
• RQ3 다양한 시뮬레이션 및 실제 세계 설정에서 디컨포더가 유한 표본에서 비모수적 회귀를 일관되게 능가할 수 있는가?
• RQ4 왜 디컨포더는 스탠 리가 마블 수익의 155억 달러를 유발한다는 비현실적인 인과적 추정치를 내놓는가? 이는 그의 신뢰성에 대해 어떤 시사점을 갖는가?
• RQ5 요인 모델은 다중 원인 혼동 보정에 필수적인가, 아니면 더 약한 가정 하에서 단순한 방법인 비모수적 회귀로도 충분한가?

주요 결과

• 각 관측되지 않은 혼동요인이 무한히 많은 치료에 영향을 주는 조건이 성립할 경우, 비모수적 회귀는 점차적으로 편향이 없으며, 이는 디컨포더가 편향 없이 작동하기 위해 요구하는 가정보다 더 약한 조건이다.
• 디컨포더는 강한 무한 혼동 외에도 추가로 검증할 수 없는 가정이 필요하며, 특히 치료의 부분집합이나 추정된 대체 혼동요인을 사용할 경우 더욱 그렇다.
• 디컨포더의 마블 배우 사례 연구에서, 이 방법은 비현실적인 추정치를 내놓는다: 스탠 리의 코스터 출연이 박스오피스 수익에 155억 달러의 인과적 기여가 있다고 추정된다.
• 가용 데이터를 사용해 디컨포더 분석을 재현한 결과, 비모수적 회귀는 항상 유한 표본에서 디컨포더를 능가하거나 동등하게 유지된다.
• 비선형 설정에서도 비모수적 회귀는 파라미터 정보를 효과적으로 활용할 수 있지만, 디컨포더 변종은 치료 효과에 대해 강력하고 검증할 수 없는 가정이 필요하다.
• 비모수적 회귀와 디컨포더 모두 현재로서는 철저한 연구 설계 없이 실세계 인과적 추론에 적합하지 않다. 두 방법 모두 검증할 수 없는 가정에 의존하며, 잘못된 결과를 낼 수 있기 때문이다.