[논문 리뷰] Computationally and statistically efficient learning of causal Bayes nets using path queries

Kevin Bello, Jean Honorio|arXiv (Cornell University)|2017. 06. 02.

Bayesian Modeling and Causal Inference참고 문헌 31인용 수 4

한 줄 요약

이 논문은 단일 정점 간섭을 통한 경로 질의(각 질의는 소스 노드에서 타겟 노드로 향하는 방향 경로가 존재하는지 여부를 확인함)를 사용하여 인과 베이지안 네트워크의 정확하고 올바르게 방향화된 구조를 다항 시간 내에 학습하는 알고리즘을 제안한다. 이 방법은 이산 및 연속 네트워크 모두에서 샘플 복잡도가 로그 수준이며, 전이 엣지를 낮은 계산 비용으로 복원하여 간섭 데이터로부터 효율적이고 통계적으로 일致하는 인과 구조 학습을 가능하게 한다.

ABSTRACT

Causal discovery from empirical data is a fundamental problem in many scientific domains. Observational data allows for identifiability only up to Markov equivalence class. In this paper we first propose a polynomial time algorithm for learning the exact correctly-oriented structure of the transitive reduction of any causal Bayesian network with high probability, by using interventional path queries. Each path query takes as input an origin node and a target node, and answers whether there is a directed path from the origin to the target. This is done by intervening on the origin node and observing samples from the target node. We theoretically show the logarithmic sample complexity for the size of interventional data per path query, for continuous and discrete networks. We then show how to learn the transitive edges using also logarithmic sample complexity (albeit in time exponential in the maximum number of parents for discrete networks), which allows us to learn the full network. We further extend our work by reducing the number of interventional path queries for learning rooted trees. We also provide an analysis of imperfect interventions.

연구 동기 및 목표

• 간섭 데이터로부터 인과 베이지안 네트워크의 정확한 구조를 계산적으로 효율적으로 학습하는 방법을 개발하기 위해.
• 통계적 효율성과 높은 정확도를 유지하면서도 필요한 간섭 수를 줄이기 위해.
• 이산 및 연속 네트워크 모두에서 경로 질의당 샘플 복잡도를 로그 수준으로 확보하기 위해.
• 최소한의 계산 오버헤드로 네트워크 구조 내 전이 엣지를 효율적으로 복원하기 위해.
• 근본 트리 구조로의 접근 확장 및 부정확한 간섭의 영향 분석을 위해.

제안 방법

• 단일 정점 간섭을 사용하여 경로 질의에 대한 답변을 도출함: 소스 노드에서 타겟 노드로 향하는 방향 경로가 존재하는지 여부를 확인함.
• 이러한 경로 질의를 사용하여 높은 확률로 인과 DAG의 전이 축소를 다항 시간 내에 학습하는 알고리즘을 적용함.
• 이산 네트워크의 경우 최대 부모 수에 대해 지수 시간이 소요되는 알고리즘이 전이 엣지를 복원하고, 연속 네트워크의 경우 우도 기반 접근법을 사용함.
• 조건부 통계적 인성 테스트와 간섭 기반 샘플링을 활용하여 인과 방향성을 추론함.
• 트리의 구조적 특성과 경로 질의 성질을 활용하여 근본 트리의 경우 필요한 간섭 수를 줄임.
• 부정확한 간섭의 영향을 분석하여 질의 정확도 및 구조 복원에 미치는 영향을 고려함.

실험 결과

연구 질문

• RQ1 다항 시간 복잡도를 갖는 경로 질의만을 사용하여 인과 베이지안 네트워크의 정확하고 방향화된 구조를 학습할 수 있는가?
• RQ2 네트워크 구조의 고확률 복원을 보장하기 위해 경로 질의당 최소한의 샘플 복잡도는 얼마인가?
• RQ3 전이 축소를 학습한 후 전이 엣지를 효율적으로 복원하는 방법은 무엇인가?
• RQ4 특정 네트워크 구조, 예를 들어 근본 트리의 경우 간섭 수를 줄일 수 있는가?
• RQ5 부정확한 간섭은 학습 과정의 정확도와 샘플 복잡도에 어떤 영향을 미치는가?

주요 결과

• 모든 벤치마크 이산 네트워크에서 간선 정밀도 100%, 재현율 100%, F1 스코어 1.0을 달성하여 직접 및 전이 엣지 모두 정확히 복원됨.
• 모든 연속 네트워크 역시 간선 정밀도 100%, 재현율 100%, F1 스코어 1.0을 달성하여 일致하고 정확한 구조 학습이 가능함.
• 이 방법은 이산 및 연속 네트워크 모두에서 경로 질의당 샘플 복잡도가 로그 수준이 되어 통계적 효율성을 확보함.
• 실제 효모 및 마우스/인간 유전자 변형 데이터셋으로부터 진짜 인과 구조를 성공적으로 복원하였으며, 생물학적으로 타당한 노드 영향 패턴을 보였음.
• 근본 트리의 경우, 구조적 제약 조건을 활용하여 필요한 경로 질의 수가 크게 감소함.
• 이론적 분석 결과, 부정확한 간섭에 대해서도 방법이 강건하며, 제한된 오차 범위 내에서 높은 정확도를 유지함.