[논문 리뷰] Causal Theories: A Categorical Perspective on Bayesian Networks

Gu, Tao, Zanasi, Fabio|arXiv (Cornell University)|2013. 01. 26.

Bayesian Modeling and Causal Inference참고 문헌 21인용 수 42

한 줄 요약

이 논문은 범주론을 사용하여 원인관계를 형식화하는 인과 이론을 대칭 모노이드 카테고리로 제안하며, 베이지안 네트워크의 정보 흐름을 위한 그림자료 언어를 제공한다. 이는 측정 가능한 공간과 확률적 사상의 카테고리 내에서 확률 모델이 표준 베이지안 네트워크를 일반화하며 기본 구조적 구성에 대해 닫혀 있음을 보여주며, 동시에 이 카테고리에서 쌍대곱의 존재하지 않음을 입증하여 인과 모델 조합의 구조적 한계를 드러낸다.

ABSTRACT

In this dissertation we develop a new formal graphical framework for causal reasoning. Starting with a review of monoidal categories and their associated graphical languages, we then revisit probability theory from a categorical perspective and introduce Bayesian networks, an existing structure for describing causal relationships. Motivated by these, we propose a new algebraic structure, which we term a causal theory. These take the form of a symmetric monoidal category, with the objects representing variables and morphisms ways of deducing information about one variable from another. A major advantage of reasoning with these structures is that the resulting graphical representations of morphisms match well with intuitions for flows of information between these variables. These categories can then be modelled in other categories, providing concrete interpretations for the variables and morphisms. In particular, we shall see that models in the category of measurable spaces and stochastic maps provide a slight generalisation of Bayesian networks, and naturally form a category themselves. We conclude with a discussion of this category, classifying the morphisms and discussing some basic universal constructions. ERRATA: (i) Pages 41-42: Objects of a causal theory are words, not collections, in $V$, and we include swaps as generating morphisms, subject to the identities defining a symmetric monoidal category. (ii) Page 46: A causal model is a strong symmetric monoidal functor.

연구 동기 및 목표

• . 논문은 범주론을 사용하여 인과적 추론을 형식화함으로써 엄밀하고 그림자료적인 인과 추론 프레임워크를 제공하고자 한다.
• 이것은 원인적 의존성과 확률적 추론을 모두 포괄하는 범주적 구조에 베이지안 네트워크를 통합하여 표준 베이지안 네트워크를 일반화하고자 한다.
• 목표에는 측정 가능한 공간과 확률적 사상의 카테고리 Stoch 내에서 인과 이론의 모델을 분석하고, 그것이 표준 베이지안 네트워크를 일반화함을 보여주는 것이 포함된다.
• 이 카테고리의 구조적 성질, 특히 극한과 보편 구조를 조사한다.
• 논문은 또한 인과 이론을 반대로 추론 가능한 반시계적 추론과 양자 기반 모델로 확장할 잠재력을 탐색한다.

제안 방법

• . 논문은 객체가 랜덤 변수를 나타내고 사상이 확률적 추론 관계를 나타내는 대칭 모노이드 카테고리로서 인과 이론을 정의한다.
• 모노이드 카테고리의 그림자료 계산을 사용하여 변수 간의 정보 흐름과 조건부 의존성을 비로소 표현한다.
• 측정 가능한 공간과 확률적 사상의 카테고리 Stoch 내에서 인과 이론을 모델링함으로써 베이지안 네트워크를 일반화한다.
• 확률 측도와 확률적 전이를 범주적 프레임워크 내에서 형식화하기 위해 Giry 모나드를 사용한다.
• 그래픽적 추론을 적용하여 실리본의 역설을 분석함으로써 인과적 구조가 명백한 통계적 모순을 어떻게 해결할 수 있는지 보여준다.
• 스토케스틱 인과 모델 카테고리에서의 보편 구조, 예를 들어 곱과 쌍대곱을 조사하며, 르베그 영집합에서의 전이 측도에 기반한 측도 이론적 모순을 통해 그것들이 존재하지 않음을 증명한다.

실험 결과

연구 질문

• RQ1 . 랜덤 변수 간의 인과 관계는 대칭 모노이드 카테고리와 그림자료 언어를 통해 어떻게 형식화될 수 있는가?
• RQ2 베이지안 네트워크의 기초가 되는 범주적 구조는 무엇이며, 그것이 표준 확률 모델을 초월해 어떻게 일반화될 수 있는가?
• RQ3 인과 이론은 예측을 넘어서 반시계적 추론을 모델링할 수 있는가, 특히 베이지안 역행을 통해?
• RQ4 스토케스틱 인과 모델의 카테고리에서는 곱과 쌍대곱과 같은 표준 보편 구조가 존재하는가?
• RQ5 공동 분포 내의 조건부 독립 관계는 범주적 프레임워크에서의 기초 인과적 구조와 어떻게 관련이 있는가?

주요 결과

• . Stoch 내에서 스토케스틱 인과 모델의 카테고리에서는 쌍대곱이 존재하지 않으며, 르베그 영집합에서의 전이 측도에 기반한 모순으로 인해 이를 입증하였다.
• 인과 이론의 그림자료 계산은 정보 흐름을 직관적이고 엄밀하게 표현하며, 베이지안 네트워크의 인과적 직관과 일치한다.
• Stoch 내의 모델은 더 일반적인 확률적 사상과 측정 가능한 구조를 允허함으로써 표준 베이지안 네트워크를 일반화한다.
• 논문은 모든 조건부 독립 구조가 인과 그래프로 표현될 수 없다는 것을 입증하며, 더 풍부한 범주적 프레임워크의 필요성을 제기한다.
• 베이지안 역행—반시계적 추론에 필수적인 요소—는 특히 사전 확률이 전반적인 지지도를 가지지 않을 경우 측도 영집합으로 인해 유일성 문제가 발생함을 밝혔다.
• 이 프레임워크는 공동 분포 간의 측도 보존 사상에 의한 동치 관계를 정의함으로써 인과 모델의 모듈리 공간으로의 길을 제시한다.