[論文レビュー] Strong Completeness and Faithfulness in Bayesian Networks

Christopher Meek|arXiv (Cornell University)|Feb 20, 2013

Bayesian Modeling and Causal Inference参考文献 13被引用数 199

ひとこと要約

本稿では、測度論的意味で、与えられたネットワーク構造におけるパラメータ化された分布のほとんどすべてが忠実であることを証明することで、離散ベイジアンネットワークにおける強い完全性と忠実性を確立している。つまり、分布に含まれるすべての条件付き独立性関係が、d-分離基準によって正確に示唆されるものである。この結果により、d-分離が、離散ベイジアンネットワークの空間におけるほとんどすべての分布に対して、妥当かつ完全であることが確認された。

ABSTRACT

A completeness result for d-separation applied to discrete Bayesian networks is presented and it is shown that in a strong measure-theoretic sense almost all discrete distributions for a given network structure are faithful; i.e. the independence facts true of the distribution are all and only those entailed by the network structure.

研究の動機と目的

• 離散ベイジアンネットワークにおけるd-分離基準の完全性を確立すること。
• 分布に含まれるすべての条件付き独立性関係が、ネットワーク構造によって完全に捉えられているかどうかを調査すること。
• 特定のネットワーク構造に対して、すべての可能な分布の空間内における忠実な分布の測度論的出現頻度を特定すること。
• 因果的発見および構造学習で一般的に用いられる忠実性仮定に対する理論的根拠を提供すること。
• 忠実性が例外的であるのではなく、一般の離散ベイジアンネットワークにおいて標準的であることを示すこと。

提案手法

• 与えられたベイジアンネットワーク構造における、すべての可能なパラメータ化された分布の集合を測度論的に評価する。
• d-分離基準を適用して、ネットワーク構造によって示唆されるすべての条件付き独立性関係を同定する。
• d-分離によって示唆されない余分な独立性関係を持つ（すなわち、忠実性に反する）分布の集合が、Lebesgue測度でゼロであることを証明する。
• 忠実な分布の空間が、ネットワークのパラメータ空間において稠密かつ全測度であることを示す。
• 代数幾何学と多項式制約を用いて、非忠実な分布の集合を低次元の部分多様体として特徴付ける。
• 与えられたネットワーク構造に適合するすべての離散的条件付き確率分布において、忠実性が一般に成立することを示す。

実験結果

リサーチクエスチョン

• RQ1 d-分離基準は、離散ベイジアンネットワークにおけるすべての条件付き独立性関係を捉えるのに完全か？
• RQ2 固定されたネットワーク構造に対して、すべての分布の空間内における忠実な分布の測度論的出現頻度はどの程度か？
• RQ3 忠実性に反する顕著なクラスの分布が存在するのか、それとも忠実性が標準的であるのか？
• RQ4 離散ベイジアンネットワークにおけるほとんどすべてのパラメータ設定において、忠実性を保証できるか？
• RQ5 ベイジアンネットワークの構造が、関連する確率分布の独立性的事実をどの程度まで決定づけるのか？

主な発見

• 任意の離散ベイジアンネットワーク構造に対して、忠実でないパラメータ化された分布の集合は、Lebesgue測度でゼロである。
• 与えられたベイジアンネットワーク構造における、ほとんどすべての分布がd-分離基準に対して忠実である。
• 忠実性仮定は恣意的な制限ではなく、パラメータ空間全体にわたり一般に成立する。
• 非忠実な分布の集合は、低次元の代数的概形をなしており、測度論的意味でまれであることを示唆する。
• d-分離基準は、ネットワークのパラメータ空間内のほとんどすべての離散的分布に対して、妥当かつ完全である。
• この結果により、因果的発見および構造学習アルゴリズムにおける忠実性の仮定の基礎づけが支持される。