[논문 리뷰] Multi-Source Causal Inference Using Control Variates

Wenshuo Guo, Serena Wang외 3명|arXiv (Cornell University)|2021. 03. 30.

Advanced Causal Inference Techniques참고 문헌 37인용 수 4

한 줄 요약

이 논문은 평균 치료 효과(Average Treatment Effect, ATE)가 일부 데이터 소스에서는 식별 가능하지만 전체적으로는 불가능한 상황에서 ATE 추정의 분산을 줄이기 위해 제어 변수를 활용하는 다중 소스 인과 추론 프레임워크를 제안한다. 선택 편향이 있는 데이터셋에서 오즈 비율 추정치의 차이를 이용해 제어 변수를 구성함으로써, 시뮬레이션과 실제 사례 연구에서 분산을 크게 감소시켰으며, 큰 표본에서는 편향을 유발하지 않으면서 추정 효율성을 향상시킨다.

ABSTRACT

While many areas of machine learning have benefited from the increasing availability of large and varied datasets, the benefit to causal inference has been limited given the strong assumptions needed to ensure identifiability of causal effects; these are often not satisfied in real-world datasets. For example, many large observational datasets (e.g., case-control studies in epidemiology, click-through data in recommender systems) suffer from selection bias on the outcome, which makes the average treatment effect (ATE) unidentifiable. We propose a general algorithm to estimate causal effects from \emph{multiple} data sources, where the ATE may be identifiable only in some datasets but not others. The key idea is to construct control variates using the datasets in which the ATE is not identifiable. We show theoretically that this reduces the variance of the ATE estimate. We apply this framework to inference from observational data under outcome selection bias, assuming access to an auxiliary small dataset from which we can obtain a consistent estimate of the ATE. We construct a control variate by taking the difference of the odds ratio estimates from the two datasets. Across simulations and two case studies with real data, we show that this control variate can significantly reduce the variance of the ATE estimate.

연구 동기 및 목표

• 대규모 데이터셋에서 선택 편향으로 인해 평균 치료 효과(Average Treatment Effect, ATE)가 식별 불가능한 관찰 데이터에서 인과 효과를 추정하는 데 도전하는 것.
• 일부 데이터 소스에서는 ATE가 식별 가능하고, 다른 일부에서는 그렇지 않은 다수의 데이터 소스를 통합하는 일반적인 프레임워크를 개발하는 것.
• ATE가 식별 불가능한 데이터셋에서 제어 변수를 구성함으로써 ATE 추정기의 분산을 줄이고, 다양한 소스 간에 공통되는 강건하고 이식 가능한 특징을 활용하는 것.
• 결과 선택 편향이 있는 실제 환경(예: 케이스-컨트롤 연구 및 추천 시스템)에서 이 방법의 효과를 입증하는 것.
• 제어 변수 구성에 의한 분산 감소에 대한 이론적 근거를 제공하여 추정기의 효율성을 보장하는 것.

제안 방법

• 큰 편향된 데이터셋과 작은 비편향된 데이터셋에서 오즈 비율 추정치의 차이를 이용해 제어 변수를 구성하는 것.
• 작은 데이터셋을 통해 일致한 ATE 추정을 확보하고, 큰 데이터셋을 통해 보조 정보를 제공하여 분산을 줄이는 것.
• 결과를 모델링하고 조건부 오즈 비율을 추정하기 위해 상호작용 항이 포함된 로지스틱 회귀 또는 계수를 변화시키는 신경망을 적용하는 것.
• 제어 변수를 다양한 데이터셋 간의 오즈 비율 추정치 차이의 함수로 정의하고, 이를 ATE 추정기 조정에 사용하는 것.
• 특히 유한 표본에서 평균 제곱오차를 줄이기 위해 제어 변수 조정을 이용해 ATE 추정기를 최적화하는 것.
• 합성 데이터와 두 가지 실제 사례 연구(독감 예방주사 권장 및 스팸 이메일 탐지)를 통해 방법을 검증하는 것.

실험 결과

연구 질문

• RQ1 결과 선택 편향이 있는 관찰 데이터에 작은 비편향 데이터셋을 결합함으로써 ATE 추정의 효율성을 향상시킬 수 있는가?
• RQ2 편향된 데이터셋에서 구성된 제어 변수가 ATE 추정기의 분산을 감소시키면서도 편향을 유발하지 않는 이유는 무엇인가?
• RQ3 다양한 데이터 소스 간의 오즈 비율 차이에서 유도된 제어 변수를 사용할 경우 이론적으로 분산 감소의 이득은 얼마인가?
• RQ4 유한 표본에서 고차원 공변량이 존재할 경우, 특히 제어 변수가 약간의 편향을 유도할 경우 이 방법의 성능은 어떠한가?
• RQ5 제안된 프레임워크는 로지스틱 회귀 및 신경망을 포함한 다양한 결과 모델로 일반화될 수 있는가?

주요 결과

• 제어 변수 접근법은 다양한 시뮬레이션 설정과 실제 데이터 사례 연구에서 ATE 추정기의 분산을 크게 감소시켰다.
• 독감 예방주사 사례 연구에서 제어 변수는 기준 추정기 대비 분산을 최대 40% 감소시켰으며, 편향 증가는 최소한이었다.
• 스팸 이메일 탐지 사례 연구에서는 소규모 데이터셋 크기가 10,000일 경우 분산을 50% 이상 감소시켰지만, 표본 수가 적은 경우에선 편향이 다소 증가하였다.
• 특히 고차원 설정에서 제어 변수가 약간의 편향을 유도하더라도, 이 방법은 상당한 분산 감소를 달성했다.
• 이론적 분석은 제어 변수가 분산을 감소시킨다는 것을 확인하였고, 로지스틱 회귀 및 신경망을 포함한 다양한 추정 방법에서의 경험적 결과도 이 이득을 검증하였다.
• 오즈 비율 차이를 통한 제어 변수 구성은 특히 ATE 추정에 일관된 기준을 제공하는 소규모 데이터셋이 존재할 경우 강건하고 효과적인 것으로 입증되었다.