[논문 리뷰] Iterative Causal Discovery in the Possible Presence of Latent Confounders and Selection Bias

Raanan Y. Rohekar, Shami Nisimov외 2명|arXiv (Cornell University)|2021. 11. 07.

Bayesian Modeling and Causal Inference인용 수 5

한 줄 요약

이 논문은 잠재적 혼란인자와 선택 편향이 존재하는 상황에서 부분 조상 그래프(PAGs)를 학습하기 위한 sound하고 complete한 알고리즘인 반복적 인과 발견(ICD)을 소개한다. ICD는 최소 분리 집합의 탐색 반경을 점진적으로 증가시키며 그래프를 반복적으로 개선함으로써, anytime 정확성(즉각 정확성)을 보장하고 기존의 FCI, FCI+, RFCI 대비 조건부 이상성(CI) 테스트 횟수를 크게 감소시키면서도 더 높은 구조적 정확도를 달성한다.

ABSTRACT

We present a sound and complete algorithm, called iterative causal discovery (ICD), for recovering causal graphs in the presence of latent confounders and selection bias. ICD relies on the causal Markov and faithfulness assumptions and recovers the equivalence class of the underlying causal graph. It starts with a complete graph, and consists of a single iterative stage that gradually refines this graph by identifying conditional independence (CI) between connected nodes. Independence and causal relations entailed after any iteration are correct, rendering ICD anytime. Essentially, we tie the size of the CI conditioning set to its distance on the graph from the tested nodes, and increase this value in the successive iteration. Thus, each iteration refines a graph that was recovered by previous iterations having smaller conditioning sets -- a higher statistical power -- which contributes to stability. We demonstrate empirically that ICD requires significantly fewer CI tests and learns more accurate causal graphs compared to FCI, FCI+, and RFCI algorithms (code is available at https://github.com/IntelLabs/causality-lab).

연구 동기 및 목표

• 잠재적 혼란인자 및 선택 편향 하에서 조기 중단되더라도 여전히 정확한 인과 발견 알고리즘을 개발하여 anytime 정확성을 확보한다.
• 기존의 FCI, FCI+, RFCI 등의 방법과 비교해 인과 그래프 학습에 필요한 조건부 이상성(CI) 테스트 횟수를 줄인다.
• 잠재 변수와 선택 편향이 존재하는 상황에서 인과 스켈레톤과 간선 방향 복원의 구조적 정확도를 향상시킨다.
• 초기 단계에서 조건 집합이 작은 CI 테스트를 우선순위에 두어 통계적 검정력이 높은 결과를 얻기 위해 안정성을 확보한다.

제안 방법

• ICD는 완전 그래프에서 시작하여, 각 노드 쌍에 대해 증가하는 탐색 반경을 가진 조건부 이상성(CI) 관계를 테스트함으로써 그래프를 반복적으로 개선한다.
• 알고리즘은 각 반복 단계에서 테스트하는 노드 쌍으로부터의 거리가 증가하는 노드 집합을 조건으로 삼으며, 초기에는 국소적 이웃에서 시작해 점차 전역적으로 확장된다.
• FCI와 FCI+가 인접한 및 비인접한 분리자 간에 구분을 두는 것과 달리, ICD는 가능한 모든 분리 집합을 동일하게 취급한다.
• 각 반복 단계에서 현재 반경에서 유효한 분리 집합이 발견될 경우에만 간선이 제거되며, 이는 모든 유도된 이상성 및 인과 관계의 정확성을 보장한다.
• 탐색 반경은 점진적으로 증가하므로 알고리즘이 점진적으로 결과를 개선하고 안정성을 유지할 수 있다.
• 이 방법은 대규모 표본 근처에서 sound하고 complete하며, 충실성과 마르코프 조건을 만족할 경우 올바른 PAG 동치류를 복원한다.

실험 결과

연구 질문

• RQ1 잠재적 혼란인자 및 선택 편향 하에서 어떤 단계에서든 중단되어도 여전히 정확한 인과 발견 알고리즘을 설계할 수 있는가? 즉, anytime 정확성을 확보할 수 있는가?
• RQ2 잠재적 혼란인자가 존재하는 상황에서 CI 테스트 횟수를 줄이되, 구조적 정확도를 유지하거나 향상시킬 수 있는가?
• RQ3 분리 집합의 탐색 반경을 반복적으로 증가시키는 방식이 기존 방법 대비 더 안정적이고 효율적인 인과 발견을 이끌 수 있는가?
• RQ4 탐색 초기 단계에서 국소적이지 않은 노드를 고려하는 알고리즘이 FCI의 높은 계산 비용을 피하면서도 완전성을 유지할 수 있는가?

주요 결과

• ICD는 모든 그래프 크기와 조건 집합 크기에 걸쳐 FCI, FCI+, RFCI보다 훨씬 적은 조건부 이상성(CI) 테스트를 요구한다.
• 크기가 35인 그래프의 경우, ICD는 FCI+와 RFCI 대비 최대 50%까지 CI 테스트 횟수를 줄였으며, 그래프 크가 증가할수록 이 우월성이 더욱 두드러진다.
• ICD는 스켈레톤 복원에서 가장 높은 F1 스코어를 기록했으며, 간선 누락(양성 부족) 비율이 낮고 간선 방향 예측 정밀도가 높았다.
• 작은 데이터셋에서도 높은 정확도를 유지했으며, 초기 반복에서 작은 조건 집합을 우선순위에 두어 안정성을 확보했다.
• 특히 크기가 큰 그래프이거나 조건 집합 크기가 클수록 ICD의 간선 방향 예측 정확도가 FCI, FCI+, RFCI를 모두 초월했다.
• 조건 집합 크기에 따른 CI 테스트 횟수의 증가 속도가 FCI+와 RFCI보다 ICD가 더 느리게 증가함을 확인하여, 그래프 복잡도 증가에 따른 더 나은 확장성 확보를 확인했다.