[논문 리뷰] Algorithms for Causal Reasoning in Probability Trees

Tim Genewein, Tom McGrath외 5명|arXiv (Cornell University)|2020. 10. 23.

Bayesian Modeling and Causal Inference참고 문헌 27인용 수 10

한 줄 요약

이 논문은 이산 확률 트리에서 인과적 추론을 위한 최초의 구체적 알고리즘을 제시하며, 임의의 명제적 및 인과적 사건 간의 연관성, 간섭, 반사적 사고를 계산할 수 있도록 한다. 사건에 대한 최소 컷 표현을 도입하고, 해석에 의존하지 않는 재귀적 방법을 제공하여, 기존의 인과적 베이지안 네트워크가 다룰 수 없는 맥락 특이적 인과적 의존성을 처리한다.

ABSTRACT

Probability trees are one of the simplest models of causal generative processes. They possess clean semantics and -- unlike causal Bayesian networks -- they can represent context-specific causal dependencies, which are necessary for e.g. causal induction. Yet, they have received little attention from the AI and ML community. Here we present concrete algorithms for causal reasoning in discrete probability trees that cover the entire causal hierarchy (association, intervention, and counterfactuals), and operate on arbitrary propositional and causal events. Our work expands the domain of causal reasoning to a very general class of discrete stochastic processes.

연구 동기 및 목표

• 인공지능 및 기계학습 분야에서 맥락 특이적 인과적 의존성을 모델링할 수 있는 능력에도 불구하고 확률 트리에 대한 관심이 부족한 점을 해결하기 위해.
• 이산 확률 트리 내에서 인과계층의 전반적인 요소—연관성, 간섭, 반사적 사고—를 다루는 일반 목적의 알고리즘을 개발하기 위해.
• 재귀적이고 계산적으로 타당한 방법을 사용하여 임의의 명제적 및 인과적 사건에 대한 추론을 가능하게 하기 위해.
• 인과적 베이지안 네트워크보다 더 유연하게 인과적 구조를 표현할 수 있는 모델 클래스에서 인과적 추론을 위한 형식적이고 구현 가능한 프레임워크를 제공하기 위해.
• 인과적 베이지안 네트워크에서 요구하는 바와 같이 여러 모델 구조에 의존하지 않고도 인과적 발견 및 추론을 위한 기반을 마련하기 위해.

제안 방법

• 계산적 구현을 지원하기 위해 확률 트리의 노드를 (식별자, 상태 기재 목록, 확률 전이 집합)의 튜플로 정의한다.
• 사건의 압축된 표현으로서, 사건 발생을 해결하는 최소한의 노드 집합인 최소 컷을 사용한다.
• 간섭을 계산하기 위해 도 연산의 재귀적 전파를 적용하여 전이 확률를 수정하면서도 인과적 구조를 유지한다.
• 사실 기반과 반사적 사고 기반의 두 가지 분지로 트리를 분할하여 반사적 사고 추론을 구현하며, 상류 구조는 공유한다.
• 트리 순회와 조건부 확률 갱신을 사용하여 사건의 확률, 간섭, 반사적 사고를 계산하기 위해 재귀적 알고리즘을 적용한다.
• 확률 트리로서 인과적 베이지안 네트워크와 구조적 인과 모델을 모두 모델링할 수 있도록 프레임워크를 확장하여 더 풍부한 구조와의 표현적 동치성을 입증한다.

실험 결과

연구 질문

• RQ1 어떻게 명제 논리와 인과적 우선순서를 사용하여 확률 트리에서 임의의 사건의 확률을 계산할 수 있는가?
• RQ2 어떻게 '만약 그렇다면?' 질문에 답하기 위해 확률 트리에서 간섭을 형식적으로 정의하고 계산할 수 있는가?
• RQ3 특히 후행 변수가 상류 인과적 구조에 의존할 경우, 확률 트리에서 반사적 사고를 어떻게 계산할 수 있는가?
• RQ4 확률 트리는 인과적 베이지안 네트워크가 표현할 수 없는 맥락 특이적 인과적 의존성을 표현할 수 있는가?
• RQ5 확률 트리에서 사건에 대한 최소한의 계산적 표현(예: 최소 컷)은 무엇이며, 어떻게 효율적으로 계산할 수 있는가?

주요 결과

• 논문은 이산 확률 트리에서 최소 컷, 간섭, 반사적 사고를 계산하기 위한 재귀적 알고리즘을 성공적으로 개발하여 전면적인 인과적 추론을 가능하게 한다.
• 확률 트리는 인과적 베이지안 네트워크에서 표현할 수 없는 맥락 특이적 인과적 의존성—예를 들어 X=0일 때 Y→Z이고 X=1일 때 Z→Y인 경우—을 표현할 수 있다.
• 이 프레임워크는 간섭의 역공학을 가능하게 하여, 원하는 사건 A를 유도하기 위해 필요한 조작을 특정할 수 있다.
• 확률 트리에서의 반사적 사고 계산은 인과적 베이지안 네트워크의 쌍둥이 네트워크 방법과 근본적으로 다르며, 구조적 가정과 전파 규칙이 다르다.
• 알고리즘은 해석에 의존하지 않아 확률과 인과성에 대한 객관적 또는 주관적 해석 모두를 지원하며 외부 모델 앙상블이 필요로 하지 않는다.
• 재귀적 종료 조건 덕분에 이론적으로 가чёт한 무한 트리로 일반화될 수 있으나, 가чёт하지 않은 경우는 새로운 기법이 필요로 한다.