[논문 리뷰] Causal query in observational data with hidden variables

Debo Cheng, Jiuyong Li외 4명|arXiv (Cornell University)|2020. 01. 28.

Bayesian Modeling and Causal Inference참고 문헌 38인용 수 4

한 줄 요약

이 논문은 숨겨진 변수가 있는 관찰 데이터에서 인과적 쿼리에 대한 데이터 기반 알고리즘인 DICE를 제안한다. 이는 새로운 정리에 기반하여 비편향 인과 효과 추정을 보장하는 초집합 조정 변수를 효율적으로 국소 탐색할 수 있도록 해주는 것으로, 기존 방법보다 정확도와 확장성에서 뛰어나며, 이전에 실패했던 대규모 데이터셋에서도 최신 기술 수준의 추정 품질을 달성한다.

ABSTRACT

This paper discusses the problem of causal query in observational data with hidden variables, with the aim of seeking the change of an outcome when "manipulating" a variable while given a set of plausible confounding variables which affect the manipulated variable and the outcome. Such an "experiment on data" to estimate the causal effect of the manipulated variable is useful for validating an experiment design using historical data or for exploring confounders when studying a new relationship. However, existing data-driven methods for causal effect estimation face some major challenges, including poor scalability with high dimensional data, low estimation accuracy due to heuristics used by the global causal structure learning algorithms, and the assumption of causal sufficiency when hidden variables are inevitable in data. In this paper, we develop a theorem for using local search to find a superset of the adjustment (or confounding) variables for causal effect estimation from observational data under a realistic pretreatment assumption. The theorem ensures that the unbiased estimate of causal effect is included in the set of causal effects estimated by the superset of adjustment variables. Based on the developed theorem, we propose a data-driven algorithm for causal query. Experiments show that the proposed algorithm is faster and produces better causal effect estimation than an existing data-driven causal effect estimation method with hidden variables. The causal effects estimated by the proposed algorithm are as accurate as those by the state-of-the-art methods using domain knowledge.

연구 동기 및 목표

• 숨겨진 또는 부분적으로 관측되는 혼동 변수가 존재할 때 관찰 데이터에서 인과 효과 추정의 과제를 해결하기 위해.
• 숨겨진 혼동 변수가 존재하는 현실적인 가정 하에 비편향 인과 추론을 가능하게 하는 조정 집합을 식별하기 위한 확장성 있고 정확한 방법을 개발하기 위해.
• 기존 데이터 기반 방법의 한계를 극복하기 위해, 즉 구조 학습 히ュ리스틱 기반의 낮은 정확도, 인과 충분성에 대한 의존성, 낮은 확장성 등을 해결하기 위해.
• 분야 전문 지식이 필요 없이 决策자들이 신뢰할 수 있는 인과 추정과 혼동 변수 인식을 제공하기 위해.

제안 방법

• 국소 탐색이 조정 변수의 초집합에 대해 수행될 경우 비편향 인과 효과 추정이 보장됨을 증명하는 정리 — 이론적 기반을 제안한다.
• 관찰 데이터에서 숨겨진 변수가 존재할 경우, 빠른 국소 구조 학습 알고리즘인 PC-Select를 활용해 혼동 변수의 초집합을 효율적으로 식별한다.
• 식별된 초집합을 바탕으로 회귀 또는 기타 추정기법을 통해 인과 효과를 추정하며, 제안된 정리에 따라 비편향성을 보장한다.
• 정리를 데이터 기반 파ipeline(DICE)에 통합하여 구조 학습과 인과 효과 추정을 확장 가능한 방식으로 통합한다.
• 최대 원인 그래프(MAGs)를 통해 숨겨진 변수를 수용하는 프레임워크 내에서 배경 기준 원칙과 do-계산법 원리를 활용한다.
• 기준 데이터셋과 합성 데이터를 활용해 제안된 방법의 성능을 LV-IDA 및 지식 기반 기준선과 비교 검증한다.

실험 결과

연구 질문

• RQ1 숨겨진 혼동 변수가 존재할 경우, 조정 변수의 초집합에 대한 국소 탐색이 비편향 인과 효과 추정을 가능하게 하는가?
• RQ2 숨겨진 변수가 존재할 경우, 제안된 방법은 LV-IDA와 같은 기존 데이터 기반 인과 추론 방법에 비해 정확도와 효율성 면에서 어떻게 비교되는가?
• RQ3 이 방법은 도메인 지식에 의존하는 최신 기술 수준의 방법과 유사한 인과 효과 추정 정확도를 달성할 수 있는가?
• RQ4 특히 전역 구조 학습이 실패할 경우, 데이터 크기와 차원 수 증가에 따라 이 방법은 어떻게 확장되는가?

주요 결과

• IHDP, Jobs, Twin 데이터셋에서 DICE는 평가된 모든 방법 중에서 가장 낮은 편향을 기록했으며, 특히 고차원 설정에서 LV-IDA보다 유의미하게 낮은 편향을 보였다.
• M-편향이 존재하는 합성 데이터셋에서도 DICE는 낮은 편향을 유지하는 반면, 다른 방법들은 성능이 저하되어, 비혼돈 가정 위반 상황에서도 강건함을 입증했다.
• DICE는 10개의 기준 BN 데이터셋을 모두 50초 이내에 완료했으며, LV-IDA는 BARLEY, HAILFINDER, HEPAR II, WIN95, ANDES와 같은 다섯 개의 큰 BN에서 두 시간 이내에 결과를 반환하지 못했다.
• DICE의 인과 효과 추정은 도메인 지식을 활용하는 최신 기술 수준의 방법과 동일한 정확도를 기록했으며, 특히 가장 낮은 편향을 보이며 IHDP 데이터셋에서 뛰어난 성능을 보였다.
• DICE의 핵심 구조 학습기인 PC-Select의 런타임은 변수 수와 샘플 수 양쪽 모두에 대해 효율적으로 확장되며, FCI 및 RFCI보다 빠르고 확장성 면에서 뛰어나다.
• DICE는 최대 20만 건의 레코드를 포함한 데이터셋을 성공적으로 처리했으며, 다른 구현체는 이러한 규모에서는 실패하거나 실행이 불가능했다.