[논문 리뷰] Counterfactual Mean Embeddings

Krikamol Muandet, Motonobu Kanagawa외 2명|arXiv (Cornell University)|2018. 05. 22.

Advanced Causal Inference Techniques참고 문헌 84인용 수 5

한 줄 요약

이 논문은 재생 커널 힐버트 공간(RKHS)을 사용하여 잠재 결과 분포를 모델링하는 비모수적 힐버트 공간 표현인 반사적 평균 임베딩(CME)을 소개한다. 잠재 결과 분포를 RKHS에 임bedding함으로써, 모수적 가정 없이 분포 기반 원인 분석을 가능하게 하며, 비편향성 조건 하에서 최적 수렴 속도를 달성하고 이미지 및 시퀀스와 같은 복잡한 데이터에의 적용을 가능하게 한다.

ABSTRACT

Counterfactual inference has become a ubiquitous tool in online advertisement, recommendation systems, medical diagnosis, and econometrics. Accurate modeling of outcome distributions associated with different interventions -- known as counterfactual distributions -- is crucial for the success of these applications. In this work, we propose to model counterfactual distributions using a novel Hilbert space representation called counterfactual mean embedding (CME). The CME embeds the associated counterfactual distribution into a reproducing kernel Hilbert space (RKHS) endowed with a positive definite kernel, which allows us to perform causal inference over the entire landscape of the counterfactual distribution. Based on this representation, we propose a distributional treatment effect (DTE) that can quantify the causal effect over entire outcome distributions. Our approach is nonparametric as the CME can be estimated under the unconfoundedness assumption from observational data without requiring any parametric assumption about the underlying distributions. We also establish a rate of convergence of the proposed estimator which depends on the smoothness of the conditional mean and the Radon-Nikodym derivative of the underlying marginal distributions. Furthermore, our framework allows for more complex outcomes such as images, sequences, and graphs. Our experimental results on synthetic data and off-policy evaluation tasks demonstrate the advantages of the proposed estimator.

연구 동기 및 목표

• 결과 분포의 고차원 모멘트 변화를 포착하지 못하는 평균 치료 효과(ATE) 추정기의 한계를 해결한다.
• 결과 분포의 평균이 아닌 전체 분포를 모델링함으로써 분포 기반 원인 분석을 가능하게 한다.
• 기본 분포에 대한 모수적 가정이 필요 없는 반사적 원인 분석을 위한 비모수적 프레임워크를 개발한다.
• 비편향성 조건 하에서 조건부 평균과 라돈-니코다임 미분의 부드러움에 따라 수렴 속도를 이론적으로 확립한다.
• 커널 기반 표현을 통한 RKHS에서 이미지, 시퀀스, 그래프와 같은 복잡한 결과 유형으로의 원인 분석을 확장한다.

제안 방법

• 재생 커널 힐버트 공간(RKHS) 내에서 반사적 분포를 평균 임베딩으로 표현함으로써 전체 결과 분포의 비모수적 모델링을 가능하게 한다.
• 커널 기법을 사용하여 반사적 평균 임베딩(CME)을 반사적 간섭 하에서 특징 맵의 조건부 기대값으로 정의한다.
• 비편향성 조건 하에서 관측 데이터로부터 정규화된 역확률 가중치를 RKHS에서 사용하여 CME를 추정한다.
• 전체 결과 분포에 걸쳐 인과 효과를 측정하는 분포 기반 치료 효과(DTE) 측정법을 제안한다.
• RKHS에서 조건부 기대값을 추정할 때 발생하는 역 문제를 안정화하기 위해 스펙트럼 분해와 정규화(Tikhonov 유형)를 사용한다.
• 추정 오차와 근사 오차의 균형을 고려하여 CME 추정기의 수렴 속도를 유도하며, 이 속도는 조건부 평균과 라돈-니코다임 미분의 부드러움에 따라 달라진다.

실험 결과

연구 질문

• RQ1 결정적 형태를 가정하지 않고 전체 반사적 결과 분포를 비모수적으로 모델링할 수 있는가?
• RQ2 관측 데이터를 사용하여 전체 결과 분포에 걸쳐 분포 기반 치료 효과(DTE)를 추정할 수 있는가?
• RQ3 비편향성 조건 하에서 제안된 CME 추정기의 이론적 수렴 속도는 무엇인가?
• RQ4 이 프레임워크는 이미지, 시퀀스, 그래프와 같은 복잡하고 구조화된 결과를 처리할 수 있는가?
• RQ5 CME 추정기는 고차원 분포 이동을 포착하는 데 있어 기존 ATE 기반 방법보다 어떻게 비교되는가?

주요 결과

• 제안된 반사적 평균 임베딩(CME)은 재생 커널 힐버트 공간(RKHS) 내에서 반사적 결과 분포를 비모수적이고 커널 기반으로 표현한다.
• CME 추정기의 수렴 속도는 $ O(n^{-b}) $이며, $ b = 1/(1 + \beta + \max(1 - \alpha, \alpha)) $로 표현되며, 조건부 평균과 라돈-니코다임 미분의 부드러움에 따라 달라진다.
• 이 프레임워크는 전체 결과 분포에 대한 인과 추론이 가능한 분포 기반 치료 효과(DTE) 추정을 지원한다.
• RKHS 내 커널 임베딩의 유연성 덕분에 이미지, 시퀀스, 그래프와 같은 복잡한 데이터 유형에 적용 가능하다.
• 합성 데이터와 오프-정책 평가 과제에서의 실험 결과는 CME 추정기가 ATE 기반 기준보다 분포 이동을 더 잘 포착함을 보여준다.
• 이론적 분석을 통해 근사 오차는 $ O(\varepsilon_n^{\alpha + \beta}) $로 감소하고, 정규화 파rameter $ \varepsilon_n = n^{-b} $를 조정함으로써 추정 오차와 균형을 이룬다.