[논문 리뷰] Necessary and sufficient graphical conditions for optimal adjustment sets in causal graphical models with hidden variables

Jakob Runge|arXiv (Cornell University)|2021. 02. 20.

Bayesian Modeling and Causal Inference인용 수 15

한 줄 요약

이 논문은 은닉 변수를 가진 원인적 그래픽 모델에서 최적 조정 집합을 위한 必要하고 충분한 그래픽 조건을 수립하며, 최적성의 특성을 기술하기 위해 조건부 상호정보 기반의 '조정 정보'라는 측도를 도입한다. 이는 점점 줄어드는 추정 분산을 최소화하는 최적의 집합을 구성하는 완전한 알고리즘을 제공하며, 이는 이론과 실무에서 이전 방법들을 능가한다. 시뮬레이션 설정의 90퍼센트 이상이 최적성 조건을 만족한다.

ABSTRACT

The problem of selecting optimal backdoor adjustment sets to estimate causal effects in graphical models with hidden and conditioned variables is addressed. Previous work has defined optimality as achieving the smallest asymptotic estimation variance and derived an optimal set for the case without hidden variables. For the case with hidden variables there can be settings where no optimal set exists and currently only a sufficient graphical optimality criterion of limited applicability has been derived. In the present work optimality is characterized as maximizing a certain adjustment information which allows to derive a necessary and sufficient graphical criterion for the existence of an optimal adjustment set and a definition and algorithm to construct it. Further, the optimal set is valid if and only if a valid adjustment set exists and has higher (or equal) adjustment information than the Adjust-set proposed in Perkovi{\\'c} et al. [Journal of Machine Learning Research, 18: 1--62, 2018] for any graph. The results translate to minimal asymptotic estimation variance for a class of estimators whose asymptotic variance follows a certain information-theoretic relation. Numerical experiments indicate that the asymptotic results also hold for relatively small sample sizes and that the optimal adjustment set or minimized variants thereof often yield better variance also beyond that estimator class. Surprisingly, among the randomly created setups more than 90\\% fulfill the optimality conditions indicating that also in many real-world scenarios graphical optimality may hold. Code is available as part of the python package \\url{https://github.com/jakobrunge/tigramite}.

연구 동기 및 목표

• 은닉 변수가 있는 원인적 그래픽 모델에서 최적 조정 집합을 위한 必요하고 충분한 조건을 규명하는 열린 문제를 해결하기 위해.
• 은닉 혼란 요인이 존재하는 상황에서 점점 줄어드는 추정 분산을 최소화하는 최적 조정 집합을 정의하기 위해.
• 조정 정보—새로운 정보 이론적 측도—기반으로 최적 조정 집합을 구성하는 그래픽 기준과 알고리즘을 제공하기 위해.
• 제안된 최적 집합이 기존 방법보다 항상 분산 감소 측면에서 뛰어나다는 것을 보여주기 위해, 이론적 추정기 클래스를 초월한 경우에도 마찬가지로 성능이 뛰어나다는 것을 입증하기 위해.
• 다양한 표본 크기와 모델 구조를 가진 합성 데이터를 활용한 광범위한 수치 실험을 통해 이론적 결과를 검증하기 위해.

제안 방법

• 관측 변수들 간의 조건부 상호정보의 차이로 정의되는 '조정 정보'를 도입하여 조정 집합의 품질을 정량화하는 공식적 측도로 사용한다.
• 조정 정보를 최대화하는 조건을 기반으로 최적 조정 집합의 존재를 위한 必요하고 충분한 그래픽 기준을 유도한다.
• 유효성을 확보하면서 조정 정보를 최대화하는 노드를 식별함으로써 최적 조정 집합을 구성하는 알고리즘을 개발한다.
• 구성된 최적 집합이 최소 기수를 가지며, 유효한 조정 집합이 존재하는 경우에만 유효하다는 것을 증명한다.
• 최적성 조건을 특정 정보 이론적 관계를 따르는 추정기 클래스의 점점 줄어드는 분산에 최소화하는 것으로 번역한다.
• 선형 및 비선형 기능 메커니즘을 가진 합성 구조적 원인 모델을 사용하여 표본 크기와 관측되지 않은 변수 비율을 다양하게 설정한 광범위한 수치 실험을 수행한다.

실험 결과

연구 질문

• RQ1 은닉 변수가 존재하는 상황에서 최적 조정 집합이 존재하는 그래픽 조건은 무엇인가?
• RQ2 은닉 혼란 요인이 존재할 때, 점점 줄어드는 추정 분산을 최소화하는 조정 집합을 어떻게 정의하고 구성할 수 있는가?
• RQ3 제안된 조정 정보 측도가 은닉 변수 경우의 최적성 특성을 완전히 기술하는 데에 충분한가?
• RQ4 유한 표본에서 최적 조정 집합의 성능은 기존 방법과 비교해 어떻게 되는가?
• RQ5 실제 세계나 무작위로 생성된 원인 그래프의 어느 정도가 유도된 최적성 조건을 만족하는가?

주요 결과

• 은닉 변수가 포함된 12,000개의 무작위로 생성된 원인 구성에서 93퍼센트 이상이 必요하고 충분한 최적성 조건을 만족하여 실제 설정에서 넓은 적용 가능성을 시사한다.
• 그래픽 최적성 조건이 성립하지 않더라도, 제안된 최적 조정 집합은 Perković 등(2018)의 Adjust-set보다 항상 낮은 추정 분산을 달성한다.
• 최적 조정 집합은 기수 면에서 최소이므로, 어떤 노드도 제거해도 최적성은 유지되지 않는다.
• 수치 실험 결과, 상대적으로 작은 표본 크기(n=30)에서도 점점 줄어드는 분산 감소 효과가 유지됨을 보여, 실용적 의미가 있음을 시사한다.
• 기본 방법보다 최적 집합 또는 그 최소화된 변형이 다수의 비모수 추정기(kNN, MLP, RF, DML)에서 뛰어난 성능을 보이며, 이는 이론적 추정기 클래스를 초월한 강건성을 시사한다.
• 조정 정보 측도는 영향을 받는 변수에 대한 제약을 최대화하고 원인 변수에 대한 제약을 최소화하는 직관을 성공적으로 반영한다.