[논문 리뷰] Estimation and Inference on Heterogeneous Treatment Effects in High-Dimensional Dynamic Panels under Weak Dependence

В. М. Семенова, Matt Goldman외 2명|arXiv (Cornell University)|2017. 12. 28.

Advanced Causal Inference Techniques인용 수 5

한 줄 요약

이 논문은 약한 의존성 하에서 고차원 동적 패널에서 이질적 치료 효과를 위한 새로운 정규화된 추정 및 추론 프레임워크를 제안한다. 첫 번째 단계에서는 기계학습을 활용한 교차 적합 잔차 학습을 사용하고, CATE에 대해 보정된 추론을 수행한다. 주요 기여는 고차원 설정에서도 CATE 파ameter에 대해 루트-n 점근 정규성 결과를 확보한 것으로, 이는 새로운 '이웃을 제외한 교차 적합' 방법 덕분이며, 이는 약한 의존성 하에서도 강건성을 보장한다.

ABSTRACT

This paper provides estimation and inference methods for a conditional average treatment effects (CATE) characterized by a high-dimensional parameter in both homogeneous cross-sectional and unit-heterogeneous dynamic panel data settings. In our leading example, we model CATE by interacting the base treatment variable with explanatory variables. The first step of our procedure is orthogonalization, where we partial out the controls and unit effects from the outcome and the base treatment and take the cross-fitted residuals. This step uses a novel generic cross-fitting method we design for weakly dependent time series and panel data. This method "leaves out the neighbors" when fitting nuisance components, and we theoretically power it by using Strassen's coupling. As a result, we can rely on any modern machine learning method in the first step, provided it learns the residuals well enough. Second, we construct an orthogonal (or residual) learner of CATE -- the Lasso CATE -- that regresses the outcome residual on the vector of interactions of the residualized treatment with explanatory variables. If the complexity of CATE function is simpler than that of the first-stage regression, the orthogonal learner converges faster than the single-stage regression-based learner. Third, we perform simultaneous inference on parameters of the CATE function using debiasing. We also can use ordinary least squares in the last two steps when CATE is low-dimensional. In heterogeneous panel data settings, we model the unobserved unit heterogeneity as a weakly sparse deviation from Mundlak (1978)'s model of correlated unit effects as a linear function of time-invariant covariates and make use of L1-penalization to estimate these models. We demonstrate our methods by estimating price elasticities of groceries based on scanner data. We note that our results are new even for the cross-sectional (i.i.d) case.

연구 동기 및 목표

• 비관측 단위 이질성이 존재하는 고차원 동적 패널 데이터에서 이질적 치료 효과를 추정하고 추론하는 데 도전한다.
• 고차원 제어 변수와 약한 의존성이 존재할 때 전통적인 이중단계 추정기법에서 발생하는 편향 및 비효율성 문제를 해결한다.
• 예측 변수의 수가 표본 크기와 함께 증가하는 상황에서도 CATE 함수에 대한 유효한 추론을 가능하게 하는 방법을 개발한다.
• 두 번째 단계의 추론 유효성을 해치지 않으면서도 첫 번째 단계에서 현대 기계학습 기법을 사용할 수 있도록 보장한다.
• 약한 의존성 하에서 CATE 파ameter의 동시에 추론 가능한 이론적 프레임워크를 제공하며, 횡단면 및 동적 패널 설정 모두로 확장한다.

제안 방법

• 스트라센의 쌍정의를 사용하여 약한 의존성 하에서도 이론적으로 타당한 보장을 확보하는 새로운 '이웃을 제외한 교차 적합' 절차를 적용하여, 결과 변수와 치료 변수를 제어 변수와 단위 효과에 대해 정규화한다.
• 제어 변수와 단위 효과를 부분적으로 제거한 잔차화된 결과 변수와 치료 변수를 두 번째 단계의 회귀 분석에 입력하여 CATE 추정을 수행한다.
• 잔차화된 결과를 잔차화된 치료 변수와 예측 변수의 상호작용에 대해 회귀하는 정규화된(잔차) 학습기인 Lasso CATE를 구현하여, CATE가 저복잡도일 경우 단일 단계 추정기보다 더 빠른 수렴 속도를 달성한다.
• Lasso CATE 추정기의 보정을 통해 점근 정규 추론이 가능하게 하며, 빠른 부트스트랩 방법을 통해 동시에 신뢰구간을 구성한다.
• L1-패널티를 사용하여 단위 이질성을 멘들라크(1978) 모델에서 약하게 흩어진 편차로 모델링하여, 동적 패널에서 고차원 고정 효과를 허용한다.
• CATE 함수가 저차원일 경우 최종 단계에서 일반 최소제곱법을 사용하며, 약한 의존성 자료에 대한 고차원 중심극한정리에 의해 이론적 근거를 제공한다.

실험 결과

연구 질문

• RQ1 데이터가 약한 의존성을 보일 때, 고차원 동적 패널에서 이질적 치료 효과에 대해 유효한 추론을 수행할 수 있는가?
• RQ2 최종 추론에 편향을 유발하지 않으면서도 첫 번째 단계에서 기계학습 기법을 신뢰성 있게 사용할 수 있는 방법은 무엇인가?
• RQ3 고차원 및 약한 의존성 설정 하에서 CATE 추정기의 수렴 속도는 얼마이며, 오라클 효율성을 달성하는가?
• RQ4 약한 의존성 하에서 다중 CATE 파ameter에 대한 同시 추론을 어떻게 수행할 수 있으며, 유효한 커버리지가 보장되는가?
• RQ5 제안된 방법은 스캐너 데이터를 활용한 가격 수요의 민감도 분석과 같은 실제 데이터에 적용 가능하며, 이론적 보장이 있는가?

주요 결과

• 제안된 방법은 고차원 설정에서도 CATE 파ameter에 대해 루트-n 점근 정규성 결과를 달성하며, 진짜 난이도 함수를 알고 있는 오라클 추정기와 동일한 수렴 속도를 보인다.
• '이웃을 제외한 교차 적합' 방법은 첫 번째 단계의 추정 오차가 두 번째 단계의 추론에 영향을 주지 않음을 보장하여, 약한 의존성 하에서도 유효한 점근 분포 이론이 가능하다.
• CATE 함수가 난이도 함수보다 단순할 경우, Lasso CATE 추정기는 단일 단계 회귀 기반 추정기보다 더 빠르게 수렴한다.
• 보정된 Lasso를 통한 보정 추론을 통해 빠른 부트스트랩 방법을 사용하여 유효한 커버리지로 동시에 신뢰구간을 구성할 수 있다.
• 이론적 결과는 횡단면 i.i.d. 케이스에서도 성립하므로, 이 프레임워크는 동적 패널을 넘어서 새로운 응용 가능성을 지닌다.
• 식료품 가격 수요의 민감도 추정에 대한 실증 응용은 이 방법의 실용성과 실제 환경에서의 강건성을 입증한다.