[논문 리뷰] Causal Rule Ensemble: Interpretable Inference of Heterogeneous Treatment Effects

Kwonsang Lee, Falco J. Bargagli-Stoffi외 1명|arXiv (Cornell University)|2020. 09. 18.

Advanced Causal Inference Techniques참고 문헌 43인용 수 14

한 줄 요약

이 논문은 조건부 평균 치료 효과(CATE)를 추정할 때 높은 정밀도와 낮은 편향을 확보하면서도 기반 머신러닝 알고리즘에 대해 무관한, 해석 가능한 부분군을 决정 규칙을 통해 발견하는 Causal Rule Ensemble(이하 CRE)를 제안한다. CRE는 기존의 블랙박스 원인적 머신러닝 접근 방식에 비해 부분군 탐색과 해석 가능성에서 향상된 성능을 제공한다.

ABSTRACT

In social and health sciences, it is critically important to identify subgroups of the study population where a treatment has a notably larger or smaller causal effect compared to the population average. In recent years, there have been many methodological developments for addressing heterogeneity of causal effects. A common approach is to estimate the conditional average treatment effect (CATE) given a pre-specified set of covariates. However, this approach does not allow to discover new subgroups. Recent causal machine learning (ML) approaches estimate the CATE at an individual level in presence of large number of observations and covariates with great accuracy. Nevertheless, the bulk of these ML approaches do not provide an interpretable characterization of the heterogeneous subgroups. In this paper, we propose a new Causal Rule Ensemble (CRE) method that: 1) discovers de novo subgroups with significantly heterogeneous treatment effects (causal rules); 2) ensures interpretability of these subgroups because they are defined in terms of decision rules; and 3) estimates the CATE for each of these newly discovered subgroups with small bias and high statistical precision. We provide theoretical results that guarantee consistency of the estimated causal effects for the newly discovered causal rules. A nice feature of CRE is that it is agnostic to the choices of the ML algorithms that can be used to discover the causal rules, and the estimation methods for the causal effects within the discovered causal rules. Via simulations, we show that the CRE method has competitive performance as compared to existing approaches while providing enhanced interpretability. We also introduce a new sensitivity analysis to unmeasured confounding bias. We apply the CRE method to discover subgroups that are more vulnerable to the causal effects of long-term exposure to air pollution on mortality.

연구 동기 및 목표

• 기존 방법이 사전에 지정된 공변량에 의존하는 바, 새로운 이질적 치료 효과를 보이는 부분군을 탐색하는 데에 한계가 있다는 점을 해결하기 위해.
• 블랙박스 모델이 아닌 결정 규칙을 통해 탐색된 부분군의 해석 가능성을 보장하기 위해.
• 새로운 부분군에 대해 조건부 평균 치료 효과(CATE)를 낮은 편향과 높은 통계적 정밀도로 추정하기 위해.
• 발견된 원인적 규칙 내에서 추정된 원인적 효과의 일致성에 대한 이론적 보장을 제공하기 위해.
• 부분군 원인적 추론에서 측정되지 않은 혼란 요인에 의한 편향에 대한 새로운 민감도 분석을 도입하기 위해.

제안 방법

• CRE는 이중 단계 프레임워크를 사용한다: 첫 번째 단계에서, 이질적 치료 효과와 관련된 공변량 조합을 식별하는 데 어떤 머신러닝 알고리즘을 선택하든 간에 원인적 규칙(부분군)을 탐색한다.
• 두 번째 단계에서, 발견된 각 규칙 내에서 조건부 평균 치료 효과(CATE)를 민감도가 높고 모델에 무관한 추정 방법을 사용해 추정한다. 이는 낮은 편향과 높은 정밀도를 보장한다.
• 이 방법은 원인적 규칙 탐색에 사용된 머신러닝 알고리즘과 CATE 추정 기법에 대해 무관하므로, 다양한 최첨단 모델과의 통합이 가능하다.
• 원인적 규칙는 나이 > 65이면서 흡연 상태 = 현재와 같은 공변량 조건의 논리적 조합으로 정의되어 해석 가능성을 보장한다.
• 기본 데이터 생성 과정에 대한 규칙성 조건이 만족될 경우, 발견된 규칙 내에서 추정된 원인적 효과에 대해 이론적 일치성 결과를 확립한다.
• 측정되지 않은 혼란 요인에 대한 영향에 대한 강건성을 평가하기 위해 새로운 민감도 분석이 도입된다.

실험 결과

연구 질문

• RQ1 사전에 지정된 공변량에 의존하지 않고, 새로운 탐색 기반의 부분군에서 상당히 이질적인 치료 효과를 가진 부분군을 탐색할 수 있는가?
• RQ2 규칙 기반 표현을 통해 부분군 수준의 원인적 효과의 해석 가능성은 어떻게 향상될 수 있는가?
• RQ3 기존 방법에 비해 제안된 방법이 발견된 부분군 내에서 CATE를 추정할 때 통계적 성능은 어떠한가?
• RQ4 결과는 측정되지 않은 혼란 요인에 대해 얼마나 강건한가? 그리고 이는 정량적으로 평가될 수 있는가?
• RQ5 이 방법은 장기적인 대기 오염 노출의 사망률에 대한 영향을 평가하는 것과 같은 실제 문제에 효과적으로 적용될 수 있는가?

주요 결과

• CRE 방법은 기존 방법과 비교해 이질적 부분군의 CATE 추정에서 경쟁력 있는 성능을 보이며, 규칙 기반 부분군 정의를 통해 해석 가능성의 추가적 이점을 제공한다.
• 발견된 원인적 규칙 내에서 추정된 원인적 효과에 대해 이론적 일치성이 확립되어, 표준 규칙성 조건 하에서 신뢰할 수 있는 추론을 보장한다.
• 규칙 기반 탐색을 통해 식별된 부분군에 대해 치료 효과를 추정할 때 높은 통계적 정밀도와 낮은 편향을 보였다.
• 측정되지 않은 혼란 요인에 대한 새로운 민감도 분석이 성공적으로 도입되고 적용되어 원인적 추론에 대한 신뢰도를 향상시켰다.
• 실제 응용 사례에서 CRE는 장기적인 대기 오염 노출에 더 민감한 부분군을 성공적으로 식별했다.
• 이 방법은 원인적 규칙 탐색 및 CATE 추정에 사용되는 기반 머신러닝 알고리즘의 선택에 대해 민감도가 없고, 넓은 적용 가능성을 보장한다.