[논문 리뷰] Estimating Individual Treatment Effect in Observational Data Using Random Forest Methods

Min Lu, Saad Sadiq외 2명|arXiv (Cornell University)|2017. 01. 19.

Advanced Causal Inference Techniques인용 수 10

한 줄 요약

이 논문은 관찰 데이터에서 개인 치료 효과(ITE)를 추정하기 위해 랜덤 포레스트 프레임워크 내에서 반사적 합성 포레스트를 사용하는 것을 제안한다. 이는 교란 요인과 선택 편향 문제를 해결한다. 잠재 결과를 직접 모델링하고, 배제된 관측값 추정을 활용함으로써 높은 정확도를 달성하며, 특히 치료 효과의 이질성이 뚜렷한 설정에서 뛰어난 성능을 보이며, 반사적 합성 포레스트는 다른 RF 기반 접근법과 BART조차도 대체로 더 뛰어난 성능을 보인다.

ABSTRACT

Estimation of individual treatment effect in observational data is complicated due to the challenges of confounding and selection bias. A useful inferential framework to address this is the counterfactual (potential outcomes) model which takes the hypothetical stance of asking what if an individual had received both treatments. Making use of random forests (RF) within the counterfactual framework we estimate individual treatment effects by directly modeling the response. We find accurate estimation of individual treatment effects is possible even in complex heterogeneous settings but that the type of RF approach plays an important role in accuracy. Methods designed to be adaptive to confounding, when used in parallel with out-of-sample estimation, do best. One method found to be especially promising is counterfactual synthetic forests. We illustrate this new methodology by applying it to a large comparative effectiveness trial, Project Aware, in order to explore the role drug use plays in sexual risk. The analysis reveals important connections between risky behavior, drug usage, and sexual risk.

연구 동기 및 목표

• 관찰 연구에서 교란 요인과 선택 편향으로 인해 어려움을 겪는 개인 치료 효과(ITE) 추정 문제를 해결하기 위해.
• 치료 효과의 이질성과 복잡한 공변량 구조에 적응할 수 있는 강력한 비모수적 방법을 개발하기 위해.
• 다양한 시뮬레이션 및 실제 조건에서 랜덤 포레스트 변형(특히 반사적 합성 포레스트 포함)의 성능을 평가하기 위해.
• 실제 공중보건 데이터셋(Project Aware)에서 이 방법의 유용성을 입증하여 약물 사용, 위험 행동, 성적 위험 간의 인과관계를 규명하기 위해.
• 배제된 관측값 추정과 교란 요인 적응형 RF 방법의 사용을 권장하여 인과 추론의 정확성과 신뢰성을 향상시키기 위해.

제안 방법

• 개인 치료 효과를 τ(x) = E[Y(1)|X=x] - E[Y(0)|X=x]로 정의하기 위해 잠재 결과(반사적) 프레임워크를 사용한다. 여기서 Y(1)과 Y(0)는 치료 및 대조 조건에서의 잠재 결과이다.
• 강한 무시 가능 치료 배정(SITA)을 가정하여 T ⊥ {Y(0), Y(1)} | X를 확보함으로써 τ(x)가 관측 데이터로부터 식별 가능해지도록 한다.
• 각 개인의 공변량 프로파일에 대해 조건부 평균 결과 E[Y|T=1,X=x]와 E[Y|T=0,X=x]를 비모수적으로 추정하기 위해 랜덤 포레스트를 사용한다.
• 반사적 합성 포레스트를 도입하여 각 치료 그룹별로 별도의 랜덤 포레스트를 키우고, 합성 데이터 생성을 통해 편향을 감소시킨다.
• 같은 데이터 포인트에 대해 훈련되지 않은 트리의 예측을 사용함으로써 정확도를 향상시키기 위해 배제된 관측값(OOB) 추정을 적용한다.
• 다양한 표본 크기와 교란 구조에서, 표준 RF, 분산 임계값 기반 RF(VT), 합성 포레스트 등 다양한 RF 변형 간의 성능을 비교한다.

실험 결과

연구 질문

• RQ1 복잡하고 이질적인 치료 효과를 포함한 관찰 데이터에서 랜덤 포레스트 방법이 개인 치료 효과를 정확하게 추정할 수 있는가?
• RQ2 특히 교란 요인에 적응한 랜덤 포레스트 변형의 선택이 ITE 추정 정확도에 어떤 영향을 미치는가?
• RQ3 배제된 관측값 추정은 관찰 연구에서 ITE 추정의 신뢰성과 정밀도를 향상시키는가?
• RQ4 반사적 합성 포레스트는 현실적인 데이터 조건에서 BART와 같은 최첨단 방법과 비교해 볼 때 ITE 추정 성능에서 어떻게 다른가?
• RQ5 실제 데이터, 예를 들어 Project Aware에서 얻은 ITE 추정치로부터는 약물 사용이 성적 위험 행동에 미치는 역할에 대해 어떤 인과적 통찰을 도출할 수 있는가?

주요 결과

• 반사적 합성 포레스트는 모든 시뮬레이션 시나리오에서 일관되게 가장 높은 정확도를 보이며, 특히 대규모 표본 크기에서 뛰어난 성능을 발휘했다.
• 큰 표본에서 매우 적응성이 뛰어난 BART 모델조차도 반사적 합성 포레스트에 뒤지며, 편향 감소와 교란 요인에 대한 적응성 면에서 뛰어난 성능을 보였다.
• 배제된 관측값 추정은 모든 RF 기반 ITE 추정기의 정확도를 크게 향상시켰으며, 과적합을 줄이고 신뢰할 수 있는 외부 표본 예측을 제공했다.
• 각 치료 그룹에 대해 별도의 회귀 표면을 명시적으로 모델링하는 RF 방법들—예를 들어 VT-I와 반사적 합성 포레스트—는 표준 RF보다 뚜렷한 향상을 보였으며, 특히 강한 교란 요인이 존재할 경우 두드러졌다.
• Project Aware 데이터 분석을 통해 약물 사용, 위험 행동, 성적 위험 간의 중요한 인과관계가 드러났으며, ITE 추정치는 관측된 교란 요인을 보정하고 개인 맞춤형 추론을 가능하게 했다.
• 반사적 합성 포레스트는 별도의 치료 그룹 모델링, 합성 포레스트 구축, OOB 추정을 조합함으로써 편향을 감소시켰으며, 이는 계산 효율성이 높고 튜닝 파rameter에 덜 민감한 특성을 지녔다.