[논문 리뷰] Efficient Intervention Design for Causal Discovery with Latents

Raghavendra Addanki, Shiva Prasad Kasiviswanathan외 2명|arXiv (Cornell University)|2020. 05. 24.

Bayesian Modeling and Causal Inference참고 문헌 31인용 수 4

한 줄 요약

이 논문은 잠재 변수가 존재하는 상황에서 원인 규명을 위한 효율적인 알고리즘을 제안하며, 두 모델인 선형 비용(간섭 비용이 대상으로 삼는 변수에 따라 달라짐)과 동일 비용(모든 간섭이 동일한 비용)에서 간섭 비용을 최소화한다. 연구는 조건화에 의해 발생하는 특정한 콜라이더인 p-콜라이저를 도입하고, 유량 기반 방법을 통해 이를 탐지함으로써 이론적 보장과 함께 거의 최적의 간섭 횟수를 달성한다. 이는 선형 비용 모델에서 2-근사 및 p-콜라이저 구조를 활용한 개선된 경계를 포함한다.

ABSTRACT

We consider recovering a causal graph in presence of latent variables, where we seek to minimize the cost of interventions used in the recovery process. We consider two intervention cost models: (1) a linear cost model where the cost of an intervention on a subset of variables has a linear form, and (2) an identity cost model where the cost of an intervention is the same, regardless of what variables it is on, i.e., the goal is just to minimize the number of interventions. Under the linear cost model, we give an algorithm to identify the ancestral relations of the underlying causal graph, achieving within a $2$-factor of the optimal intervention cost. This approximation factor can be improved to $1+ε$ for any $ε> 0$ under some mild restrictions. Under the identity cost model, we bound the number of interventions needed to recover the entire causal graph, including the latent variables, using a parameterization of the causal graph through a special type of colliders. In particular, we introduce the notion of $p$-colliders, that are colliders between pair of nodes arising from a specific type of conditioning in the causal graph, and provide an upper bound on the number of interventions as a function of the maximum number of $p$-colliders between any two nodes in the causal graph.

연구 동기 및 목표

• 실제 응용에서 흔하지만 도전적인 상황인 잠재 변수가 존재할 때 원인 규명의 간섭 비용을 최소화하는 것.
• 기존 연구의 격차를 메우기 위해 원인 충족성(즉, 관측되지 않은 혼란 요인 없음)을 가정하지 않고 일반 간섭 비용 모델(선형 및 동일 비용)을 다루는 것.
• 잠재 변수가 구조에 영향을 미칠 수 있는 상황에서도 조상 관계와 전체 원인 그래프를 효율적으로 식별하는 방법을 개발하는 것.
• 새로운 개념인 p-콜라이저(원인 그래프에서 특정 조건화에 의해 형성된 콜라이저)를 도입하고, 이를 간섭 요구량을 경계하는 데 활용하는 것.
• 이전 연구 대비 희박하고 현실적인 무작위 그래프 모델에서 간섭 비용과 간섭 횟수에 대한 이론적 보장을 제공하는 것.

제안 방법

• 조상 관계를 복원할 수 있도록 보장하기 위해, 각 노드 쌍이 적어도 하나의 간섭에서 분리되는 강력한 분리 집합 시스템을 제안한다.
• 비용이 높은 변수를 가능한 한 적은 수의 집합에 포함시키는 방식으로 총 비용을 최소화하는 근사 알고리즘을 설계하며, 이는 선형 비용 모델에서 2-근사에 도달한다.
• p-콜라이저를 구조적 성질로 도입: 노드 v_k가 i와 j 사이의 p-콜라이저이면, i와 j에서 v_k로 향하는 두 개의 정점 분리 경로가 존재하고, 둘 다 들어오는 간선을 가져야 한다.
• 유량 네트워크 변환을 통해 p-콜라이저를 탐지한다: 노드를 들어오는/나가는 구성요소로 분할하고, 단위 용량을 할당하며, 소스 T_ij에서 v_k로의 최대 유량을 사용해 두 개의 분리 경로 존재 여부를 테스트한다.
• 동일 비용 모델에서는 간섭 횟수를 O(nτ log n + n log n)로 경계한다. 여기서 τ는 임의의 두 관측 가능한 노드 사이의 최대 p-콜라이저 수이다.
• p-콜라이저 프레임워크를 적용하여 이전 방법보다 향상된 경계를 도출한다. 특히 τ ≪ d²/n일 경우에 뚜렷한 성능 향상이 있다.

실험 결과

연구 질문

• RQ1 일반 선형 비용 모델 하에서 잠재 변수가 존재하는 원인 그래프에서 조상 관계를 거의 최적의 비용으로 복원할 수 있는 간섭 집합을 설계할 수 있는가?
• RQ2 그래프 이론적 유량 기법을 사용해 조건화에 의해 발생하는 특정 유형의 콜라이저인 p-콜라이저를 효율적으로 탐지할 수 있는가?
• RQ3 동일 비용 모델 하에서 전체 원인 그래프(잠재 변수 포함)를 복원하기 위해 필요한 최소 간섭 횟수는 얼마인가?
• RQ4 희박한 무작위 그래프 모델에서 p-콜라이저 구조는 기존 방법 대비 간섭 효율성을 어떻게 향상시키는가?
• RQ5 τ(각 쌍당 최대 p-콜라이저 수)가 그래프의 차수에 비해 작을 경우, 이전 연구 대비 더 나은 경계를 달성할 수 있는가?

주요 결과

• 제안된 알고리즘은 선형 비용 모델에서 간섭 비용에 대해 2-근사에 도달하며, 잠재 변수가 없는 경우에 달성 가능한 최고의 경계와 일치한다.
• 약간의 가정 하에 알고리즘은 임의의 ε > 0에 대해 (1+ε)-근사로 수정 가능하여 2-근사보다 향상된 성능을 보인다.
• 동일 비용 모델 하에서 전체 원인 그래프를 복원하기 위해 필요한 간섭 횟수는 O(nτ log n + n log n)로 경계된다. 여기서 τ는 임의의 두 관측 가능한 노드 사이의 최대 p-콜라이저 수이다.
• 이분 그래프, 힘의 법칙, 에르되시-레니 그래프 모델과 같은 무작위 그래프 모델에서 τ는 d²/n보다 크게 작으며, 이는 τ ≪ d²/n일 경우 새로운 경계가 이전 연구보다 뛰어나다는 것을 의미한다.
• 관측 가능한 그래프 G를 복원하기 위해 간섭 횟수를 O(d log²n)에서 O(τ log n)로 감소시켜 희박한 그래프에서 상당한 성능 향상을 이룬다.
• p-콜라이저 탐지 알고리즘은 정점 분할과 단위 용량을 적용한 변환된 그래프에서 최대 유량 공식을 사용해 p-콜라이저를 정확히 식별한다.