[논문 리뷰] Combining Observational and Experimental Datasets Using Shrinkage Estimators

Evan T. R. Rosenman, Guillaume Basse외 2명|arXiv (Cornell University)|2020. 02. 16.

Statistical Methods and Inference인용 수 6

한 줄 요약

이 논문은 측정되지 않은 혼란 요인으로 인해 관찰적 추정치에 편향이 발생할 수 있는 상황에서, 실험적 데이터와 관찰적 데이터를 조합하여 원인 인과 추론의 위험을 줄이는 수축 추정량을 제안한다. 스텐형 수축을 실험적 추정치 쪽으로 적용함으로써, 저자들은 $κ_1$ 및 $κ_2$라는 두 가지 새로운 추정량을 개발하였으며, 미약한 조건 하에서도 관찰적 데이터가 측정되지 않은 혼란 요인으로 인해 편향을 받더라도, 실험적 데이터만을 사용하는 추정량보다 유한 표본에서 더 낮은 위험을 달성한다.

ABSTRACT

We consider the problem of combining data from observational and experimental sources to make causal conclusions. This problem is increasingly relevant, as the modern era has yielded passive collection of massive observational datasets in areas such as e-commerce and electronic health. These data may be used to supplement experimental data, which is frequently expensive to obtain. In Rosenman et al. (2018), we considered this problem under the assumption that all confounders were measured. Here, we relax the assumption of unconfoundedness. To derive combined estimators with desirable properties, we make use of results from the Stein Shrinkage literature. Our contributions are threefold. First, we propose a generic procedure for deriving shrinkage estimators in this setting, making use of a generalized unbiased risk estimate. Second, we develop two new estimators, prove finite sample conditions under which they have lower risk than an estimator using only experimental data, and show that each achieves a notion of asymptotic optimality. Third, we draw connections between our approach and results in sensitivity analysis, including proposing a method for evaluating the feasibility of our estimators.

연구 동기 및 목표

• 관찰적 데이터(높은 편향, 낮은 분산)와 실험적 데이터(낮은 편향, 높은 분산)를 조합하여 원인 인과 추론에서 편향-분산 트레이드오프를 해결한다.
• 편향된 관찰적 추정치와 편향이 없는 실험적 추정치 사이의 균형을 이루는 수축 추정량을 유도하는 일반적 프레임워크를 개발한다.
• 측정되지 않은 혼란 요인이 존재하는 상황에서도 실험적 데이터만을 사용하는 추정량보다 낮은 위험을 보이는 유한 표본 조건을 확립한다.
• 수축 접근법을 민감도 분석과 연결하여 측정되지 않은 혼란 요인에 대한 탄력성 평가를 가능하게 한다.
• 분산 추정 및 성향 스코어 조정을 포함한, 추정량을 신뢰성 있게 구현하기 위한 실용적 지침을 제공한다.

제안 방법

• 스트로우더먼(1975)의 비편향 위험 추정 일반화를 통해 이방분산, 다변량 설정에서 병합 추정량의 위험 추정을 유도한다.
• 두 가지 수축 추정량을 제안한다: $κ_1$은 층별로 공통된 수축 요소를 적용하고, $κ_2$는 분산 가중 수축 요소를 사용한다.
• 일반화된 비편향 위험 추정량을 최소화함으로써 추정량의 기능적 형태를 유도하여 실험적 추정치 쪽으로 최적의 수축을 보장한다.
• 데이터 기반 수축 요소 추정을 수행하면서, 수축과 추정에 데이터를 이중으로 사용하는 문제를 고려하여 편향 보정 최적화 절차를 적용한다.
• 조우 등(2023)의 민감도 분석 프레임워크를 사용하여 암시적 $Γ$ 매개변수를 추정하여 측정되지 않은 혼란 요인에 대한 탄력성 평가를 가능하게 한다.
• 다양한 공변량 분포와 편향 수준을 가진 시뮬레이션에서 성능을 비교하기 위해 추정량을 적용하고, 그린과 스트로우더먼의 추정량($δ_1$, $δ_2$)과의 성능를 비교한다.

실험 결과

연구 질문

• RQ1 수축을 통해 관찰적 데이터와 실험적 데이터를 조합할 때, 실험적 데이터만을 사용하는 것보다 낮은 위험을 달성할 수 있는 조건는 무엇인가?
• RQ2 관찰적 데이터가 측정되지 않은 변수로 인해 혼란을 겪을 경우, 편향과 분산을 최적의 균형으로 유지할 수 있는 수축 추정량은 어떻게 구성할 수 있는가?
• RQ3 다른 공변량 분포를 가진 설정에서, 제안된 추정량의 유한 표본 성능는 기존의 수축 방법과 비교해 어떻게 되는가?
• RQ4 민감도 분석은 어떻게 수축 추정과 통합되어 측정되지 않은 혼란 요인에 대한 탄력성 평가를 가능하게 하는가?
• RQ5 신뢰성 있는 구현을 위해 필요한 실용적 고려사항—예를 들어 분산 추정 및 성향 스코어 조정—는 무엇인가?

주요 결과

• 제안된 추정량 $κ_1$ 및 $κ_2$는 특히 관찰적 데이터가 중간 정도의 편향과 높은 정밀도를 가질 경우, 실험적 데이터만을 사용하는 추정량보다 낮은 위험을 달성한다.
• 공변량 분포가 동일한 시뮬레이션에서 $κ_1$은 그린과 스트로우더먼의 $δ_1$보다 일관되게 낮은 위험을 기록하며, 특히 층 수 $K \geq 4$일 경우 두드러진다.
• 관찰적 데이터와 실험적 데이터의 공변량 분포가 다를 경우, $κ_1$은 여전히 효과적이지만 $δ_1$는 略적으로 더 높은 탄력성을 보이며, 이는 위험 감소와 분포 민감도 사이의 상충 관계를 시사한다.
• $κ_1$ 및 $κ_2$는 층 수 $K \to \infty$로 갈수록 渐近적으로 최적성을 달성하여 장기적 효율성을 보여준다.
• 민감도 분석과의 연결 덕분에 연구자들은 암시적 $Γ$ 매개변수를 추정할 수 있으며, 이는 측정되지 않은 혼란 요인에 대한 탄력성에 대한 정량적 측도를 제공한다.
• 이 방법은 일반화 가능하며, 보조 정보를 통합하거나 고편향 층에서의 수축을 줄이기 위한 임계값 규칙을 도입함으로써 확장 가능하다.