[논문 리뷰] Kernel Methods for Unobserved Confounding: Negative Controls, Proxies, and Instruments

Rahul Singh|arXiv (Cornell University)|2020. 12. 18.

Advanced Causal Inference Techniques참고 문헌 59인용 수 7

한 줄 요약

이 논문은 관측되지 않은 혼동요인에 대비하여 비모수적 커널 리지 회귀 프레임워크를 제안한다. 이 프레임워크는 결과 또는 치료와 독립적인 보조 변수인 음성 제어(음성 제어)를 사용하여 관측되지 않은 혼동에 기인한 인과적 효과를 식별하고 추정한다. 이 방법은 균일한 일致성과 유한 표본 수렴 속도를 보장하며, 복잡한 관측 데이터에서 연속적이고 이질적인 치료 효과, 선형 회귀 모델을 통한 병행 추정, 그리고 분포 이동 효과를 추정할 수 있다. 특히, 관측되지 않은 소득 혼동요인을 보정한 흡연과 신생아 체중 간의 관계에 대한 연구에서 검증되었다.

ABSTRACT

Negative control is a strategy for learning the causal relationship between treatment and outcome in the presence of unmeasured confounding. The treatment effect can nonetheless be identified if two auxiliary variables are available: a negative control treatment (which has no effect on the actual outcome), and a negative control outcome (which is not affected by the actual treatment). These auxiliary variables can also be viewed as proxies for a traditional set of control variables, and they bear resemblance to instrumental variables. I propose a family of algorithms based on kernel ridge regression for learning nonparametric treatment effects with negative controls. Examples include dose response curves, dose response curves with distribution shift, and heterogeneous treatment effects. Data may be discrete or continuous, and low, high, or infinite dimensional. I prove uniform consistency and provide finite sample rates of convergence. I estimate the dose response curve of cigarette smoking on infant birth weight adjusting for unobserved confounding due to household income, using a data set of singleton births in the state of Pennsylvania between 1989 and 1991.

연구 동기 및 목표

• 관측되지 않은 혼동요인이 존재할 경우 일반적인 비모수적 인과 추론 프레임워크를 개발하는 것.
• 관측되지 않은 혼동요인이 존재하는 조건에서 인구 수준, 하위집단 수준, 분포 이동 효과를 통합적으로 추정하는 것.
• 관측되지 않은 혼동요인이 존재하는 상황에서 커널 기반 추정기의 유한 표본 균일 일치성 보장을 제공하는 것.
• 음성 제어를 프록시로 사용하여 이산적이고 연속적인 치료 효과, 특히 이질적 치료 효과를 추정할 수 있도록 하는 것.
• 재생 커널 힐버트 공간(RKHS)에서 이론적 지원을 받는 비모수적 도구변수(NPIV) 문제에 커널 방법의 적용 범위를 확장하는 것.

제안 방법

• 이 방법은 치료와 결과 간의 인과 관계를 모델링하기 위해 재생 커널 힐버트 공간(RKHS)에서 커널 리지 회귀를 사용한다.
• 특히 음성 제어 치료(Z)와 음성 제어 결과(W)를 도입하여 관측되지 않은 혼동요인(U)을 식별하고 조정한다.
• 혼동 브리지 함수 h₀(d,v,x,w)를 RKHS 내 함수로 모델링함으로써 치료 효과의 비모수적 추정이 가능해진다.
• 조정 파rameter(리지 펜alty 및 커널 초모수)는 폐쇄형 이웃 제거 교차검증 및 표준 히우리스틱 기반으로 선택된다.
• 커널 기반 조건부 기대값을 사용하여 조건부 평균 치료 효과(CATE), 병행 추정 곡선, 분포 이동 효과를 추정한다.
• 이론적 분석을 통해 진짜 인과 함수의 스무스함 조건 하에 균일 일치성과 유한 표본 수렴 속도가 입증된다.

실험 결과

연구 질문

• RQ1 관측되지 않은 혼동요인이 존재할 경우 음성 제어를 사용하여 비모수적으로 치료 효과를 식별하고 추정할 수 있는가?
• RQ2 커널 방법은 관측되지 않은 혼동요인이 존재하는 조건에서 이질적 및 병행 추정 치료 효과를 어떻게 추정할 수 있는가?
• RQ3 이 설정에서 커널 기반 추정기의 유한 표본 수렴 속도와 균일 일치성 특성은 무엇인가?
• RQ4 제안된 방법은 유한 표본에서 관측되지 않은 혼동요인을 忽略하는 표준 추정기와 비교해 어떻게 성능을 발휘하는가?
• RQ5 고차원 또는 무한차원 설정에서 음성 제어는 관측되지 않은 혼동요인을 얼마나 잘 프록시로 사용할 수 있는가?

주요 결과

• 제안된 커널 리지 회귀 추정기는 진짜 인과 함수의 스무스함에 따라 균일 일치성과 유한 표본 수렴 속도를 확보하며, 이는 데이터 차원과 무관하다.
• 시뮬레이션 결과에서, 관측되지 않은 혼동요인을 忽略하는 단순 추정기보다 성능이 뛰어나며, 특히 소표본에서 유의미한 개선을 보였다. 평균 제곱오차는 n=100일 때 0.07에서 n=5000일 때 0.00으로 감소하였다.
• 음성 제어(부모의 교육 수준과 가족 규모)를 활용하여 관측되지 않은 소득 혼동요인을 보정한 상태에서 흡연과 신생아 체중 간의 병행 추정 곡선을 성공적으로 추정하였다.
• 인종과 흡연 상태로 정의된 하위집단에 대해서는, 공변량에 관심 있는 부분집합에 대해 방법을 적용한 것과 동일한 결과를 얻었으며, 모든 집단에서 일관된 성능을 보였다.
• 이론적 분석을 통해 악조건 문제에서 존재성 및 완전성 조건이 RKHS 설정에서 잘 특징화되어 있음을 입증하였으며, 이는 NPIV 문제에 새로운 기반을 제공한다.
• 이 방법은 이산적, 연속적, 고차원 치료, 공변량, 음성 제어에 대해 강건하며, 복잡한 관측 데이터 환경에서의 다재다능한 인과 추론을 가능하게 한다.