[논문 리뷰] Cross-Fitting and Averaging for Machine Learning Estimation of Heterogeneous Treatment Effects

Daniel J. Jacob|arXiv (Cornell University)|2020. 07. 06.

Advanced Causal Inference Techniques인용 수 9

한 줄 요약

이 논문은 네 가지 메타러닝 기반(Т-러닝, DR-러닝, R-러닝, X-러닝)의 이질적 치료 효과 추정을 위한 기계학습 방법에서 표본 분할, 크로스피팅, 평균화 전략을 평가한다. 5중 교차검증과 20회 이상 반복에서의 중앙값 평균화를 조합할 경우, 특히 복잡한 데이터 구조에서 평균제곱오차(MSE)가 가장 낮으며, 분산을 줄이고 강건성을 향상시키기 위해 라소를 제외하는 것이 바람직하다고 제안한다.

ABSTRACT

We investigate the finite sample performance of sample splitting, cross-fitting and averaging for the estimation of the conditional average treatment effect. Recently proposed methods, so-called meta-learners, make use of machine learning to estimate different nuisance functions and hence allow for fewer restrictions on the underlying structure of the data. To limit a potential overfitting bias that may result when using machine learning methods, cross-fitting estimators have been proposed. This includes the splitting of the data in different folds to reduce bias and averaging over folds to restore efficiency. To the best of our knowledge, it is not yet clear how exactly the data should be split and averaged. We employ a Monte Carlo study with different data generation processes and consider twelve different estimators that vary in sample-splitting, cross-fitting and averaging procedures. We investigate the performance of each estimator independently on four different meta-learners: the doubly-robust-learner, R-learner, T-learner and X-learner. We find that the performance of all meta-learners heavily depends on the procedure of splitting and averaging. The best performance in terms of mean squared error (MSE) among the sample split estimators can be achieved when applying cross-fitting plus taking the median over multiple different sample-splitting iterations. Some meta-learners exhibit a high variance when the lasso is included in the ML methods. Excluding the lasso decreases the variance and leads to robust and at least competitive results.

연구 동기 및 목표

• 이질적 치료 효과 추정에서 다양한 표본 분할, 크로스피팅, 평균화 절차의 근본적 표본 성능을 평가하기 위해.
• 임의의 실험(RCT)과 관찰 연구에서의 데이터 생성 과정이 메타러닝 기반 추정기 성능에 미치는 영향을 평가하기 위해.
• 고차원적 또는 비선형 설정에서 편향과 평균제곱오차(MSE)를 최소화하는 최적의 분할 및 평균화 전략을 규명하기 위해.
• 기계학습 구성 요소에 라소를 사용할 경우 추정기 분산과 강건성에 미치는 영향을 조사하기 위해.
• 실제 원인관계 추론에서 기계학습을 활용한 크로스피팅과 평균화의 구현에 실용적인 지침을 제공하기 위해.

제안 방법

• 표본 분할 전략(2중, 3중, 5중), 크로스피팅, 평균화 방법(평균, 중앙값, 평균화 없음)을 다양하게 조합한 12종의 추정기로 구성된 포괄적인 몬테카를로 시뮬레이션을 수행하였다.
• 각 추정기는 동일한 데이터 생성 과정(DGPs)을 사용하여 네 가지 메타러닝 기반 추정기(T-러닝, DR-러닝, R-러닝, X-러닝)에 대해 독립적으로 적용되었다.
• 크로스피팅의 경우 데이터를 폴드로 나누며, 치료 효과 추정에 사용되는 폴드를 제외한 모든 폴드에서 노이즈 함수를 학습하고, 폴드 간 결과를 평균 내었다.
• 최대 50회에 이르는 표본 분할 반복을 수행하고, 얻어진 CATE 추정치의 중앙값을 취하여 단일 분할에서 비롯된 분산과 편향을 줄였다.
• 성능 평가를 위해 독립적인 테스트 세트에서 평균제곱오차(MSE), 평균 절대 편향, 표준편차를 지표로 사용하였다.
• 일부 변형에서는 라소를 제외하여 추정기 안정성과 분산에 미치는 영향을 평가하였다.

실험 결과

연구 질문

• RQ1 다양한 데이터 생성 과정에서 표본 분할 및 평균화 전략 중 평균제곱오차(MSE)를 최소화하는 것은 무엇인가?
• RQ2 기계학습 구성 요소에 라소를 포함하거나 제외할 경우 추정기 분산과 강건성에 어떤 영향을 미치는가?
• RQ3 단일 분할 또는 평균 평균화 대비 다중 반복에서의 중앙값 평균화가 추정기 성능 향상에 기여하는가?
• RQ4 RCT와 관찰 연구의 데이터 구조에서 메타러닝 기반 추정기(T-러닝, DR-러닝, R-러닝, X-러닝) 간 성능 차이의 변화는 어떻게 나타나는가?
• RQ5 유한 표본에서 성능을 안정화하기 위해 중앙값 평균화에 적합한 반복 수는 얼마인가?

주요 결과

• 모든 데이터 생성 과정과 메타러닝 기반 추정기에서 5중 교차검증에 중앙값 평균화를 적용한 추정기가 가장 낮은 평균제곱오차(MSE)를 기록하였다.
• R-러닝의 경우, 설정 E에서 5중 교차검증의 MSE가 3.46에서 중앙값 평균화로 0.49로 감소하여 성능 향상이 뚜렷하게 나타났다.
• 기계학습 구성 요소에서 라소를 제외하면 분산이 크게 감소하고, 모든 설정에서 더 강건하고 경쟁력 있는 결과를 얻을 수 있었다.
• 관찰 연구에서는 DR-러닝에 중앙값 평균화를 적용한 추정기가 다른 추정기보다 뛰어난 성능을 보였으며, 일부 설정에서 T-러닝의 MSE는 DR-러닝 대비 최대 2배 높았다.
• X-러닝은 단순 추정기(분할 없음)에서 일관되게 가장 우수한 성능을 보였고, 중앙값 평균화를 적용할 경우 특히 복잡하고 고도로 종속적인 설정에서 MSE가 더욱 감소하였다.
• 외곽치 또는 무거운 尾를 가진 가짜 결과가 존재할 경우, 크로스피팅과 중앙값 평균화를 병행한 방법은 크로스피팅만 수행한 경우보다 분산이 더 클 수 있으며, 특히 소규모 표본이나 라소 기반 모델에서 이러한 경향이 두드러졌다.