[논문 리뷰] Minimax Rates and Adaptivity in Combining Experimental and Observational Data

Shuxiao Chen, Bo Zhang외 1명|arXiv (Cornell University)|2021. 09. 22.

Advanced Causal Inference Techniques참고 문헌 45인용 수 5

한 줄 요약

이 논문은 평균 치료 효과를 추정하기 위해 무작위 대조 시험(RCT)과 관찰 데이터를 조합할 때의 최소최대 최적 속도를 확립하며, 측정되지 않은 혼란 변수의 크기를 사전에 알지 못하더라도 최적의 추정 효율성을 달성하는 완전히 적응형 고정 임계값 추정기(anchored thresholding estimator)를 제안한다. 놀랍게도, 추정에서는 적응이 가능하지만, 신뢰구간 길이에서는 정보 이론적으로 불가능하다는 점이 드러나며, 이는 추론에서의 기본적인 상충관계를 드러낸다.

ABSTRACT

Randomized controlled trials (RCTs) are the gold standard for evaluating the causal effect of a treatment; however, they often have limited sample sizes and sometimes poor generalizability. On the other hand, non-randomized, observational data derived from large administrative databases have massive sample sizes and better generalizability, but they are prone to unmeasured confounding bias. It is thus of considerable interest to reconcile effect estimates obtained from randomized controlled trials and observational studies investigating the same intervention, potentially harvesting the best from both realms. In this paper, we theoretically characterize the potential efficiency gain of integrating observational data into the RCT-based analysis from a minimax point of view. For estimation, we derive the minimax rate of convergence for the mean squared error, and propose a fully adaptive anchored thresholding estimator that attains the optimal rate up to poly-log factors. For inference, we characterize the minimax rate for the length of confidence intervals and show that adaptation (to unknown confounding bias) is in general impossible. A curious phenomenon thus emerges: for estimation, the efficiency gain from data integration can be achieved without prior knowledge on the magnitude of the confounding bias; for inference, the same task becomes information-theoretically impossible in general. We corroborate our theoretical findings using simulations and a real data example from the RCT DUPLICATE initiative [Franklin et al., 2021b].

연구 동기 및 목표

• 고정밀도이지만 표본 수가 제한된 RCT와 대규모이며 일반화 가능하지만 혼란이 있는 관찰 데이터를 통합하여 인과 효과를 추정하는 문제에 대응한다.
• 최소최대 위험 하에서 데이터 통합의 효율성 향상을 이론적으로 특성화하며, 주로 추정과 추론에 중점을 둔다.
• 측정되지 않은 혼란 변수의 크기를 사전에 알지 못하더라도 적응형 방법이 최적 성능을 달성할 수 있는지 조사한다.
• 측정되지 않은 혼란 변수의 크기를 알지 못할 경우에도, 신뢰구간 구성에서의 적응 가능성에 대한 기본 한계를 명확히 한다.

제안 방법

• RCT와 관찰 데이터를 모두 사용하여 평균 치료 효과를 추정할 때의 평균 제곱오차에 대한 최소최대 수렴 속도를 유도한다.
• 측정되지 않은 혼란 변수의 크기를 사전에 알지 않더라도 최소최대 속도에 로그 인자 수준에서 도달하는 완전히 적응형 고정 임계값 추정기를 제안한다.
• 신뢰구간 길이에 대한 최소최대 하한을 설정하여, 알려지지 않은 혼란 변수의 크기에 적응하는 것이 정보 이론적으로 불가능하다는 것을 보여준다.
• RCT와 관찰 데이터로 구성된 두 샘플 모델을 사용하며, 측정되지 않은 혼란이 있는 선형 모델을 가정하고, 혼란 변수 크기가 유계일 조건 하에서 최소최대 속도를 유도한다.
• 가우시안 척도 혼합 및 농도 불등식을 적용하여 다양한 혼란 정도에서의 신뢰구간 길이 하한을 도출한다.
• 이론적 결과를 시뮬레이션과 DUPLICATE RCT 이니셔티브의 실제 응용 사례를 통해 검증하며, 실증적으로 성능 향상이 있음을 보여준다.

실험 결과

연구 질문

• RQ1 RCT와 관찰 데이터를 조합할 때 평균 치료 효과를 추정하는 데 있어 최소최대 수렴 속도는 무엇인가?
• RQ2 측정되지 않은 혼란 변수의 크기를 사전에 알지 못하더라도 적응형 추정기는 최적의 추정 성능를 달성할 수 있는가?
• RQ3 혼란 변수의 크기가 알려지지 않았을 경우, 최적 길이의 신뢰구간을 구성하는 데 있어 적응이 가능한가?
• RQ4 관찰 데이터와 RCT 데이터의 표본 크기 비율이 최소최대 추정 및 추론 속도에 어떤 영향을 미치는가?
• RQ5 측정되지 않은 혼란이 존재할 경우, 추정과 추론의 적응성 사이의 기본적인 상충관계는 무엇인가?

주요 결과

• 추정의 최소최대 수렴 속도는 $ \frac{1}{\sqrt{n_c / \sigma_c^2 + n_o / \sigma_o^2}} $의 주요 순서를 가지며, 여기서 $ n_c $와 $ n_o $는 각각 RCT와 관찰 데이터의 표본 크기이다.
• 제안된 고정 임계값 추정기는 다항로그 인자 수준에서 최소최대 속도에 도달하며, 혼란 변수 크기를 사전에 알지 못하더라도 최적의 추정을 가능하게 한다.
• 추론의 경우, 최소최대 수렴 속도는 $ \frac{1}{\sqrt{n_c / \sigma_c^2 + n_o / \sigma_o^2}} + \left( \frac{\sigma_c}{\sqrt{n_c}} \land \overline{\Delta} \right) $이며, 여기서 $ \overline{\Delta} $는 측정되지 않은 혼란 변수의 크기를 제한한다.
• 추론에서의 적응은 정보 이론적으로 불가능하다: 혼란 변수 크기를 알지 못한 채로도 최소최대 수렴 속도를 달성하는 추정기는 존재하지 않는다.
• 시뮬레이션과 DUPLICATE RCT 이니셔티브의 실제 데이터 예제를 통해 고정 임계값 추정기가 RCT 전용 또는 관찰 데이터 전용 추정기보다 평균 제곱오차를 크게 감소시키는 것으로 확인되었으며, 특히 혼란이 작을 경우 성능 향상이 두드러진다.
• 혼란이 무시할 만큼 작을 경우, 관찰 데이터 통합으로 인한 효율성 향상은 매우 크지만, 추론에서의 적응성 부족은 혼란 변수 크기를 알지 못한 채 최적의 신뢰구간 커버리지 달성을 위한 기본적인 제약를 초래한다.