[论文解读] Causal Theories: A Categorical Perspective on Bayesian Networks

Gu, Tao, Zanasi, Fabio|arXiv (Cornell University)|Jan 26, 2013

Bayesian Modeling and Causal Inference参考文献 21被引用 42

一句话总结

本文將因果理論形式化為對稱單純範疇，利用範疇論形式化因果關係，並提供貝葉斯網絡中資訊傳播的圖形語言。結果顯示，可測空間與隨機映射的範疇中的機率模型可推廣貝葉斯網絡，且在基本構造下封閉，同時也證明此範疇中不存在餘積，突顯因果模型組合的結構限制。

ABSTRACT

In this dissertation we develop a new formal graphical framework for causal reasoning. Starting with a review of monoidal categories and their associated graphical languages, we then revisit probability theory from a categorical perspective and introduce Bayesian networks, an existing structure for describing causal relationships. Motivated by these, we propose a new algebraic structure, which we term a causal theory. These take the form of a symmetric monoidal category, with the objects representing variables and morphisms ways of deducing information about one variable from another. A major advantage of reasoning with these structures is that the resulting graphical representations of morphisms match well with intuitions for flows of information between these variables. These categories can then be modelled in other categories, providing concrete interpretations for the variables and morphisms. In particular, we shall see that models in the category of measurable spaces and stochastic maps provide a slight generalisation of Bayesian networks, and naturally form a category themselves. We conclude with a discussion of this category, classifying the morphisms and discussing some basic universal constructions. ERRATA: (i) Pages 41-42: Objects of a causal theory are words, not collections, in $V$, and we include swaps as generating morphisms, subject to the identities defining a symmetric monoidal category. (ii) Page 46: A causal model is a strong symmetric monoidal functor.

研究动机与目标

• 本文旨在利用範疇論形式化因果推理，提供一個嚴謹且圖形化的因果推論框架。
• 其目標在於透過捕捉因果依賴與機率推論的範疇結構，將貝葉斯網絡推廣至更廣泛的範疇框架。
• 其目標包括分析在可測空間與隨機映射的範疇 Stoch 中的因果理論模型，並證明其可推廣標準貝葉斯網絡。
• 其目標亦包括研究隨機因果模型範疇的結構性質，如極限與普遍構造。
• 本文進一步探討將因果理論擴展至包含反事實推理與量子啟發模型的可能性。

提出的方法

• 本文定義因果理論為對稱單純範疇，其中物件代表隨機變數，態射代表機率推論關係。
• 其運用單純範疇的圖形演算，以視覺化方式呈現變數間的資訊傳播與條件依賴。
• 其在範疇 Stoch 中建模因果理論，其中物件為可測空間，態射為隨機映射，從而推廣貝葉斯網絡。
• 其使用 Giry 平坦函子來在範疇框架中形式化機率測度與隨機轉移。
• 其應用理論分析辛普森悖論，透過圖形化推理顯示因果結構如何解決明顯的統計矛盾。
• 其研究隨機因果模型範疇中的普遍構造，如積與餘積，並透過測度論矛盾證明其不存在。

实验结果

研究问题

• RQ1 如何利用對稱單純範疇與圖形語言形式化隨機變數之間的因果關係？
• RQ2 貝葉斯網絡的底層範疇結構為何？其如何超越標準機率模型而被推廣？
• RQ3 因果理論能否建模反事實推理與預測以外的推論，特別是透過貝葉斯反演？
• RQ4 隨機因果模型的範疇是否容許標準的普遍構造，如積與餘積？
• RQ5 聯合分佈中的條件獨立關係如何與範疇框架中的底層因果結構相關？

主要发现

• 在 Stoch 範疇中，隨機因果模型的範疇不允許餘積，這是由勒貝格零測度集上的推前測度所引發的矛盾所證明。
• 因果理論的圖形演算提供了直觀且嚴謹的資訊傳播表示，與貝葉斯網絡中的因果直覺一致。
• Stoch 範疇中的模型透過允許更一般的隨機映射與可測結構，推廣了貝葉斯網絡。
• 本文證明並非所有條件獨立結構都能以因果圖表示，暗示需要更豐富的範疇框架。
• 其指出貝葉斯反演——反事實推理的關鍵——因測度零集的存在而面臨唯一性挑戰，特別是當先驗不具全支撐時。
• 該框架透過定義聯合分佈間的保測度映射來定義等價性，為因果模型的模空間提供一條可能路徑。