[논문 리뷰] A Survey on Causal Inference

Liuyi Yao, Zhixuan Chu외 4명|arXiv (Cornell University)|2020. 02. 05.

Advanced Causal Inference Techniques참고 문헌 147인용 수 24

한 줄 요약

이 종합 검토는 잠재적 결과 프레임워크 하에서 인과적 추론 방법을 포괄적으로 검토하며, 세 가지 핵심 가정(SUTVA, 일관성, 무관성)에 의존하는지 여부에 따라 분류한다. 관찰 데이터에서 평균 및 개별 치료 효과를 추정하기 위한 전통적 통계적 접근과 최신 기계학습 기반 접근을 비교하며, 광고, 헬스케어, 교육, 강화학습 등 다양한 분야의 적용 사례를 다루고, 재현 가능성과 평가를 위해 벤치마크 데이터셋과 오픈소스 도구를 정리한다.

ABSTRACT

Causal inference is a critical research topic across many domains, such as statistics, computer science, education, public policy and economics, for decades. Nowadays, estimating causal effect from observational data has become an appealing research direction owing to the large amount of available data and low budget requirement, compared with randomized controlled trials. Embraced with the rapidly developed machine learning area, various causal effect estimation methods for observational data have sprung up. In this survey, we provide a comprehensive review of causal inference methods under the potential outcome framework, one of the well known causal inference framework. The methods are divided into two categories depending on whether they require all three assumptions of the potential outcome framework or not. For each category, both the traditional statistical methods and the recent machine learning enhanced methods are discussed and compared. The plausible applications of these methods are also presented, including the applications in advertising, recommendation, medicine and so on. Moreover, the commonly used benchmark datasets as well as the open-source codes are also summarized, which facilitate researchers and practitioners to explore, evaluate and apply the causal inference methods.

연구 동기 및 목표

• 잠재적 결과 프레임워크 하에서 인과적 추론 방법에 대한 체계적이고 최신의 검토를 제공하는 것.
• 세 가지 핵심 가정(SUTVA, 일관성, 무관성)에 의존하는지 여부에 따라 기존 방법을 분류하는 것.
• 치료 효과 추정을 위한 전통적 통계적 방법과 최근 기계학습 기반 접근 방식을 비교하는 것.
• 광고, 의료, 교육, 추천 시스템 등 다양한 분야에서 인과적 추론의 실제 응용 사례를 요약하는 것.
• 재현 가능성과 실용적 적용을 지원하기 위해 벤치마크 데이터셋과 오픈소스 구현을 정리하는 것.

제안 방법

• 잠재적 결과 프레임워크의 세 가지 핵심 가정을 모두 활용하는 방법과 하나 이상의 가정을 완화하는 방법으로 인과적 추론 방법을 두 그룹으로 분류한다.
• 역확률가중법(IPW), 이중로버스트 추정, CBPS와 같은 균형화 접근 방식과 같은 전통적 방법을 검토한다.
• 표현 학습, GAN 기반 방법(GANITE 등), 개인 치료 효과(ITE) 추정을 위한 신경망 기반 추정기와 같은 기계학습 기반 기법을 분석한다.
• 관측되지 않은 혼란 요인을 다루기 위해 불확실한 확률 가중치 집합을 최적화하는 데 초점을 맞춘 혼란에 강건한 정책 학습 프레임워크를 소개한다.
• 선택 편향 하에서 모델 일반화를 향상시키기 위해 샘플을 재가중하는 균형화 정규화 기법을 제시한다.
• 주요 평가 지표와 벤치마크를 요약하며, Jobs, IHHP, Criteo 등의 데이터셋과 오픈소스 코드 리포지토리를 포함한다.

실험 결과

연구 질문

• RQ1 관찰 데이터에서 평균 및 개인 치료 효과를 추정할 때 전통적 통계적 방법과 최신 기계학습 기반 접근 방식은 어떻게 비교될 수 있는가?
• RQ2 인과적 추론에서 세 가지 핵심 가정(SUTVA, 일관성, 무관성)을 완화할 경우 발생하는 영향은 무엇이며, 방법들은 이러한 완화에 어떻게 대응하는가?
• RQ3 광고, 헬스케어, 교육 등 실제 도메인에서 의사결정 향상에 인과적 추론 방법을 어떻게 적용할 수 있는가?
• RQ4 정책 학습 및 치료 효과 추정에서 관측되지 않은 혼란 요인은 어떻게 다룰 수 있으며, 어떤 프레임워크가 강건성을 보장하는가?
• RQ5 재현 가능한 연구와 벤치마크를 지원하기 위해 공개된 데이터셋과 오픈소스 도구는 무엇이 있는가?

주요 결과

• 잠재적 결과 프레임워크는 관찰 데이터에서 평균 및 개인 치료 효과를 추정하는 데 있어 기초적이고 널리 사용되는 접근 방식으로 남아 있다.
• GANITE 및 표현 학습과 같은 기계학습 기반 방법은 데이터 내 복잡한 고차원적 관계를 모델링함으로써 ITE 추정을 향상시킨다.
• 이중로버스트 방법은 결과 회귀 모델과 확률 가중치 모델을 조합하여 편향을 줄이고 추정 안정성을 향상시키며, 특히 한 모델이 잘못 설정된 경우에도 유용하다.
• 혼란에 강건한 정책 학습 프레임워크는 불확실한 확률 가중치 집합을 최적화함으로써 관측되지 않은 혼란 요인으로 인한 피해를 완화할 수 있다.
• CBPS와 같은 방법에서 유도된 균형화 정규화 기법은 선택 편향을 줄이기 위해 샘플을 재가중함으로써 모델 일반화를 향상시킨다.
• Jobs, IHHP, Criteo 등의 베스트 벤치마크 데이터셋과 오픈소스 구현의 정리된 목록은 인과적 추론 연구에서 재현 가능성과 다중 방법 평가를 촉진한다.